뷰어로 보기

[IT&테크 정보] AI가 쓴 가짜뉴스, AI로 잡는다 2019.08.05 16:24

앱센터
조회 수 : 21 추천 수 : 0

인공지능(AI)이 직접 글을 쓰는 시대가 도래했다. AI의 글은 뛰어난 문학 작품에 비할 바는 못 되지만 적어도 사람이 쓴 것처럼 흉내낼 수준은 된다. 이제는 글의 저자가 기계인지, 사람인지 구분조차 어려운 상황이 됐다.

   인공지능_게티이미지.jpg

다만 AI가 글의 영역에 침투하면서 문제가 생겼다. 허위 내용의 뉴스나 칼럼 등에 AI가 동원돼 피해가 늘고 있다는 것. 사람이 직접 쓴 것처럼 위장한 이러한 글을 식별하는 것은 쉽지 않다.

이를 해결할 좋은 방법이 없을까? 이에 대해 최근 흥미로운 연구가 진행 중이다. ‘AIAI가 쓴 글을 찾아내는 방법인데, MIT테크놀로지리뷰는 하버드대와 MIT-IBM 왓슨 AI 랩 연구팀이 '거대언어모델실험실(Giant Language Model Test Room·GLTR)'을 만들었다고 보도했다.

 

GLTRAI가 텍스트의 실제 의미보다는 텍스트에 자주 등장하는 표현에서 패턴을 찾아 글을 쓴다는 점에서 착안, AI가 쓴 글을 식별해낸다. 예컨대 한 단락의 글에서 사용된 단어가 모두 '예측 가능'하다면 이 글은 사람이 아닌 AI가 썼을 가능성이 매우 높다.

이 기술은 연구팀이 단독으로 개발한 게 아니다. GLTR은 지난 2월 비영리 AI 연구단체 '오픈AI(OpenAI)'가 내놓은 'GPT2'를 참고해 만들어졌다. GPT2는 축적된 데이터를 바탕으로 글을 쓰는 AI. GPT2는 단어 사용빈도, 함께 쓰이는 단어 조합 등을 산출한 뒤 이를 토대로 글을 생성한다. 오픈AI는 가짜뉴스 등 부작용을 우려해 GPT2 연구 결과를 외부에 공개하진 않은 상태다. 다만 오픈AI가 공개한 일부 코드는 GLMT를 구축하는 데 도움을 줬다.

 

GLMTGPT2와 비슷한 방식으로 AI가 쓴 글을 골라낸다. 먼저 단어 사용빈도를 분석해 흔히 볼 수 있는 단어 조합을 찾는다. 그 다음 가장 예측이 쉬운 단어는 초록색, 가장 예측이 어려운 단어는 보라색으로 구분한다. 예측이 비교적 쉬운 건 노란색, 예측이 비교적 어려운 건 빨간색이다.

GLMT를 활용해 GPT2가 생성한 AI 글을 분석하면 단어 대부분이 초록색으로 표시된다. AI가 쓴 글이라는 걸 정확히 짚어냈다는 뜻이다.

그렇다면 유명 문학작품을 GLMT로 검사해보면 어떤 결과가 나올까?

다음은 셰익스피어의 '햄릿' 일부분이다. 빨간색과 보라색 표시가 눈에 많이 띈다. 첫번째 보라색 표시가 된 단어 'outrageous'outrage(분노, 포학)의 형용사로 '매우 충격적인', '잔학무도한'이란 의미를 가진다. 그리 생소한 단어는 아니지만 뒤에 명사 'fortune(운명)'을 수식하는 건 보기 드물다. 'outrageous fortune'란 단어 조합이 AI의 예측을 벗어난다는 얘기다.

MIT.png

연구팀은 또 다른 실험을 했다. 하버드 학생들을 GLTR을 사용하는 그룹과 사용하지 않는 그룹으로 나눈 뒤 학생들이 AI가 쓴 허위 글을 얼마나 찾아낼 수 있는지 관찰했다. 실험 결과 GLTR 비사용 그룹은 허위 글 중 50%를 색출한 반면, GLTR 사용 그룹은 72%를 골라냈다. 사람과 AI가 협력하면 가짜 글을 찾는 데 더 효과적이라는 분석이다.

MIT_IBM-Watson_AI_Lab.png

MIT 테크놀로지리뷰는 "허위 내용을 담은 글과 이미지 등을 만드는 기술이 빠르게   발전하고 있다""GLTR을 이용하면 가짜뉴스, 딥페이크, 트위터 봇 등을 판별하고 처리하는 데 큰 도움이 될 것"이라고 말했다.

Comment '0'
댓글 쓰기 권한이 없습니다.
List of Articles
  1. 19 Sep 2019 09:30 [IT&테크 정보] 응답했다 1994 '미래의 컴퓨터'...25년전 섬뜩한 예측 미래가 현실이 되기까지 얼마나 걸릴까. 내일이라는 미래는 하룻밤만 지나면 현실이 된다. 그러나 1년 뒤 미래가 현실이 되려면 더 많은 시간이 소요된다. 10년은 더욱더 그렇다. 미래가 현실이 되기까지 오래 걸릴수록 예측은 어려워진다. 당장 내일 무슨 일이 생길지 알 수 없는데, 1년 뒤를 미리 아는 건 보다 어려운 일이다.... by : 앱센터
  2. 19 Sep 2019 09:27 [IT&테크 정보] 고성능 대신 친환경차… 모터쇼 주인공 자리바꿈 獨 프랑크푸르트 모터쇼 개막 현대차 콘셉트카 ‘45’ 첫 공개… 정의선 부회장 직접 현장서 지휘 “초고속 충전 기술로 유럽 공략”… 뼈대-주요부품 한덩어리로 제작 폭스바겐 ‘ID.3’ 공개로 승부수… 700km주행 벤츠 EQS도 눈길 “모터쇼의 주인공은 고성능 자동차가 아니라 친환경차로 완전히 자리매김했다.” 독일 프랑크... by : 앱센터
  3. 11 Sep 2019 12:20 [IT&테크 정보] 지구에서 달까지 한 번에 가는 '우주 엘리베이터' 아무리 높은 빌딩이라도 엘리베이터에 몸을 실으면 순식간에 다른 공간으로 이동할 수 있다. 엘리베이터의 편리함은 이루 말할 필요가 없다. 그렇다면 스케일을 좀 더 크게 가져보자. 이왕이면 우주 밖으로 나가보는 건 어떨까. 달나라와 지구를 연결하는 엘리베이터도 좋겠다. 이런 말도 안 되는 상상을 현실에서 구현하... by : 앱센터
  4. 11 Sep 2019 12:17 [IT&테크 정보] 골퍼따라 자율주행...캐디 없어도 '나이스샷' 일본이 시작한 수출규제 조치가 대일 무역전쟁으로 비화하면서 국내 중소기업에는 위기와 기회가 동시에 찾아왔다. 당장은 어려움이 있겠지만 대일 의존도가 높은 부분에서 기술 국산화를 이루면 글로벌 경쟁력을 크게 높일 수 있다. 기업과 연구기관이 중장기 안목으로 기술 협력을 강화해야만 이룰 수 있는 일이다. 다음달 설립... by : 앱센터
  5. 22 Aug 2019 09:49 [IT&테크 정보] 우주를 달리는 테슬라 '로드스터', 지금쯤 어디? 지난해 2월 스페이스엑스(SpaceX)는 로켓 '팔콘 헤비(Falcon Heavy)'를 성공적으로 발사했다. 스페이스엑스는 일론 머스크(Elon Musk) 테슬라 최고경영자(CEO)가 만든 민간 우주기업이다. 팔콘 헤비는 안에 테슬라의 스포츠카 '로드스터(Roadster)'를 싣고 있었다. 일론 머스크는 자신이 직접 몰던 1세대 로드스터를 선택했다. 그는 ... by : 앱센터
  6. 22 Aug 2019 09:47 [IT&테크 정보] 세탁-건조 다음은? 로봇이 '빨래 개기’ LG전자가 빨래 개는 로봇을 개발하고 있다. LG전자는 세탁기부터 의류 건조기, 의류 관리기 ‘스타일러’에 이어 빨래를 스스로 개는 로봇을 선보이며 토털 의류 관련 솔루션을 완성하게 됐다. 빨래 개는 로봇이라는 신가전으로 시장을 창출할 것인지도 관심이다. 특허청에 따르면 LG전자는 최근 ‘로봇 및 이를 포함하는 의... by : 앱센터
  7. 22 Aug 2019 09:44 [IT&테크 정보] 전기 비행기, 화석연료 비행기 대체할 수 있을까 지난 2010년 내셔널 지오그래픽은 흥미로운 통계를 공개했다. 항공기 추락 사고 사망자보다 화석연료 비행기의 배기가스로 인한 사망자 수가 더 많다는 연구결과다. 매년 전 세계에서 추락 사고로 숨지는 사람은 약 1000여 명, 사망 원인이 배기가스인 사망자는 1만 명에 달한다. 성층권에서 운행되는 항공기의 배기가스는 기후변화... by : 앱센터
  8. 13 Aug 2019 11:19 [IT&테크 정보] 로봇 바리스타가 타주는 커피 맛은?...알바 로봇군단 카페 점령 로봇군단이 대중 삶 속 깊이 파고든다. 특히 외식사업에서 로봇 적용이 활발하다. 기술 적용 지향점도 다양해졌다. 타인과 비대면을 강조한 ‘언택트’ 혹은 비용 절감에 초점을 맞춘 서비스가 있는가 하면 ‘인간과 공존’ 및 감성로봇에 방점을 둔 서비스도 생겨나기 시작했다. (티로보틱스와 디스트릭트홀딩스가 서울 성동구 아... by : 앱센터
  9. 05 Aug 2019 16:27 [IT&테크 정보] 운전자 시선까지 추적...한눈 팔거나 눈감으면 삑~ 2012~2017년 경찰청과 교통안전공단의 통계 분석에 따르면 우리나라에서 발생하는 교통사고는 4건 중 1건꼴로 버스와 영업용 승합차, 화물차, 택시 등 사업용 차량이 포함됐다. 사업용 자동차 주행거리는 하루 평균 115㎞로 비사업용(35㎞)의 3배다. 1만대당 사고는 이들 사업용 자동차가 307건으로 비사업용의 4.5배에 달한다. 1만대당... by : 앱센터
  10. 05 Aug 2019 16:24 [IT&테크 정보] AI가 쓴 가짜뉴스, AI로 잡는다 인공지능(AI)이 직접 글을 쓰는 시대가 도래했다. AI의 글은 뛰어난 문학 작품에 비할 바는 못 되지만 적어도 사람이 쓴 것처럼 흉내낼 수준은 된다. 이제는 글의 저자가 기계인지, 사람인지 구분조차 어려운 상황이 됐다. 다만 AI가 글의 영역에 침투하면서 문제가 생겼다. 허위 내용의 뉴스나 칼럼 등에 AI가 동원돼 피해... by : 앱센터
Tag
Write
first 1 2 3 4 5 6 7 8 9 10 last
Top