뷰어로 보기

[IT&테크 정보] AI가 쓴 가짜뉴스, AI로 잡는다 2019.08.05 16:24

앱센터
조회 수 : 47 추천 수 : 0

인공지능(AI)이 직접 글을 쓰는 시대가 도래했다. AI의 글은 뛰어난 문학 작품에 비할 바는 못 되지만 적어도 사람이 쓴 것처럼 흉내낼 수준은 된다. 이제는 글의 저자가 기계인지, 사람인지 구분조차 어려운 상황이 됐다.

   인공지능_게티이미지.jpg

다만 AI가 글의 영역에 침투하면서 문제가 생겼다. 허위 내용의 뉴스나 칼럼 등에 AI가 동원돼 피해가 늘고 있다는 것. 사람이 직접 쓴 것처럼 위장한 이러한 글을 식별하는 것은 쉽지 않다.

이를 해결할 좋은 방법이 없을까? 이에 대해 최근 흥미로운 연구가 진행 중이다. ‘AIAI가 쓴 글을 찾아내는 방법인데, MIT테크놀로지리뷰는 하버드대와 MIT-IBM 왓슨 AI 랩 연구팀이 '거대언어모델실험실(Giant Language Model Test Room·GLTR)'을 만들었다고 보도했다.

 

GLTRAI가 텍스트의 실제 의미보다는 텍스트에 자주 등장하는 표현에서 패턴을 찾아 글을 쓴다는 점에서 착안, AI가 쓴 글을 식별해낸다. 예컨대 한 단락의 글에서 사용된 단어가 모두 '예측 가능'하다면 이 글은 사람이 아닌 AI가 썼을 가능성이 매우 높다.

이 기술은 연구팀이 단독으로 개발한 게 아니다. GLTR은 지난 2월 비영리 AI 연구단체 '오픈AI(OpenAI)'가 내놓은 'GPT2'를 참고해 만들어졌다. GPT2는 축적된 데이터를 바탕으로 글을 쓰는 AI. GPT2는 단어 사용빈도, 함께 쓰이는 단어 조합 등을 산출한 뒤 이를 토대로 글을 생성한다. 오픈AI는 가짜뉴스 등 부작용을 우려해 GPT2 연구 결과를 외부에 공개하진 않은 상태다. 다만 오픈AI가 공개한 일부 코드는 GLMT를 구축하는 데 도움을 줬다.

 

GLMTGPT2와 비슷한 방식으로 AI가 쓴 글을 골라낸다. 먼저 단어 사용빈도를 분석해 흔히 볼 수 있는 단어 조합을 찾는다. 그 다음 가장 예측이 쉬운 단어는 초록색, 가장 예측이 어려운 단어는 보라색으로 구분한다. 예측이 비교적 쉬운 건 노란색, 예측이 비교적 어려운 건 빨간색이다.

GLMT를 활용해 GPT2가 생성한 AI 글을 분석하면 단어 대부분이 초록색으로 표시된다. AI가 쓴 글이라는 걸 정확히 짚어냈다는 뜻이다.

그렇다면 유명 문학작품을 GLMT로 검사해보면 어떤 결과가 나올까?

다음은 셰익스피어의 '햄릿' 일부분이다. 빨간색과 보라색 표시가 눈에 많이 띈다. 첫번째 보라색 표시가 된 단어 'outrageous'outrage(분노, 포학)의 형용사로 '매우 충격적인', '잔학무도한'이란 의미를 가진다. 그리 생소한 단어는 아니지만 뒤에 명사 'fortune(운명)'을 수식하는 건 보기 드물다. 'outrageous fortune'란 단어 조합이 AI의 예측을 벗어난다는 얘기다.

MIT.png

연구팀은 또 다른 실험을 했다. 하버드 학생들을 GLTR을 사용하는 그룹과 사용하지 않는 그룹으로 나눈 뒤 학생들이 AI가 쓴 허위 글을 얼마나 찾아낼 수 있는지 관찰했다. 실험 결과 GLTR 비사용 그룹은 허위 글 중 50%를 색출한 반면, GLTR 사용 그룹은 72%를 골라냈다. 사람과 AI가 협력하면 가짜 글을 찾는 데 더 효과적이라는 분석이다.

MIT_IBM-Watson_AI_Lab.png

MIT 테크놀로지리뷰는 "허위 내용을 담은 글과 이미지 등을 만드는 기술이 빠르게   발전하고 있다""GLTR을 이용하면 가짜뉴스, 딥페이크, 트위터 봇 등을 판별하고 처리하는 데 큰 도움이 될 것"이라고 말했다.

Comment '0'
댓글 쓰기 권한이 없습니다.
List of Articles
  1. 24 Oct 2019 15:56 [IT&테크 정보] 셀프빨래방창업의 선두주자 워시테리아, 여성안심 빨래방 및 빨래방전용앱으로 눈길 1인 가구가 증가하고 주거공간도 1인 생활에 맞게 축소됨에 따라 ‘세탁’에 대한 이슈도 변화를 맞이하고 있다. 소비자들의 주거 형태 및 생활 패턴의 변화에 맞춰 ‘무인빨래방’이나 ‘코인빨래방’과 같은 무인서비스 매장들이 새로운 국면을 맞이하고 있다. 업무 후 늦은 저녁 집에 돌아와 빨래를 하는 1인가구가 안심하고 편안... by : 앱센터
  2. 01 Oct 2019 17:55 [IT&테크 정보] 아마존, 앱으로 원격 진료 서비스 테스트 중 아마존이 자사 직원들을 대상으로 새로운 앱을 테스트하고 있다. CNBC에 따르면 앱의 이름은 '아마존 케어'로 시애틀 본사 직원과 그 가족들만 사용할 수 있는 것으로 확인됐다. 앱의 메인 기능은 진료다. 의사와 간호사 등 의료 전문가와 영상 통화로 진료를 볼 수 있다. 예방접종 일정도 잡을 수 있으며 진료 후 다음 상... by : 앱센터
  3. 26 Sep 2019 17:56 [IT&테크 정보] 딥러닝으로 18개월 후 '엘니뇨' 예측 딥러닝(Deep Learning)은 이제 우리에게 꽤 익숙한 단어다. 2016년 이세돌 9단과 '세기의 대국'을 펼친 바둑 인공지능 '알파고'에 적용된 기술이다. 기후 예측 분야에서 딥러닝을 활용한 괄목할만한 성과가 나왔다. 전남대학교 지구환경과학부 함유근 교수 연구팀은 인공지능 기법을 이용해 지구촌 기상 이변의 주범인 엘니뇨 발생 ... by : 앱센터
  4. 19 Sep 2019 09:30 [IT&테크 정보] 응답했다 1994 '미래의 컴퓨터'...25년전 섬뜩한 예측 미래가 현실이 되기까지 얼마나 걸릴까. 내일이라는 미래는 하룻밤만 지나면 현실이 된다. 그러나 1년 뒤 미래가 현실이 되려면 더 많은 시간이 소요된다. 10년은 더욱더 그렇다. 미래가 현실이 되기까지 오래 걸릴수록 예측은 어려워진다. 당장 내일 무슨 일이 생길지 알 수 없는데, 1년 뒤를 미리 아는 건 보다 어려운 일이다.... by : 앱센터
  5. 19 Sep 2019 09:27 [IT&테크 정보] 고성능 대신 친환경차… 모터쇼 주인공 자리바꿈 獨 프랑크푸르트 모터쇼 개막 현대차 콘셉트카 ‘45’ 첫 공개… 정의선 부회장 직접 현장서 지휘 “초고속 충전 기술로 유럽 공략”… 뼈대-주요부품 한덩어리로 제작 폭스바겐 ‘ID.3’ 공개로 승부수… 700km주행 벤츠 EQS도 눈길 “모터쇼의 주인공은 고성능 자동차가 아니라 친환경차로 완전히 자리매김했다.” 독일 프랑크... by : 앱센터
  6. 11 Sep 2019 12:20 [IT&테크 정보] 지구에서 달까지 한 번에 가는 '우주 엘리베이터' 아무리 높은 빌딩이라도 엘리베이터에 몸을 실으면 순식간에 다른 공간으로 이동할 수 있다. 엘리베이터의 편리함은 이루 말할 필요가 없다. 그렇다면 스케일을 좀 더 크게 가져보자. 이왕이면 우주 밖으로 나가보는 건 어떨까. 달나라와 지구를 연결하는 엘리베이터도 좋겠다. 이런 말도 안 되는 상상을 현실에서 구현하... by : 앱센터
  7. 11 Sep 2019 12:17 [IT&테크 정보] 골퍼따라 자율주행...캐디 없어도 '나이스샷' 일본이 시작한 수출규제 조치가 대일 무역전쟁으로 비화하면서 국내 중소기업에는 위기와 기회가 동시에 찾아왔다. 당장은 어려움이 있겠지만 대일 의존도가 높은 부분에서 기술 국산화를 이루면 글로벌 경쟁력을 크게 높일 수 있다. 기업과 연구기관이 중장기 안목으로 기술 협력을 강화해야만 이룰 수 있는 일이다. 다음달 설립... by : 앱센터
  8. 22 Aug 2019 09:49 [IT&테크 정보] 우주를 달리는 테슬라 '로드스터', 지금쯤 어디? 지난해 2월 스페이스엑스(SpaceX)는 로켓 '팔콘 헤비(Falcon Heavy)'를 성공적으로 발사했다. 스페이스엑스는 일론 머스크(Elon Musk) 테슬라 최고경영자(CEO)가 만든 민간 우주기업이다. 팔콘 헤비는 안에 테슬라의 스포츠카 '로드스터(Roadster)'를 싣고 있었다. 일론 머스크는 자신이 직접 몰던 1세대 로드스터를 선택했다. 그는 ... by : 앱센터
  9. 22 Aug 2019 09:47 [IT&테크 정보] 세탁-건조 다음은? 로봇이 '빨래 개기’ LG전자가 빨래 개는 로봇을 개발하고 있다. LG전자는 세탁기부터 의류 건조기, 의류 관리기 ‘스타일러’에 이어 빨래를 스스로 개는 로봇을 선보이며 토털 의류 관련 솔루션을 완성하게 됐다. 빨래 개는 로봇이라는 신가전으로 시장을 창출할 것인지도 관심이다. 특허청에 따르면 LG전자는 최근 ‘로봇 및 이를 포함하는 의... by : 앱센터
  10. 22 Aug 2019 09:44 [IT&테크 정보] 전기 비행기, 화석연료 비행기 대체할 수 있을까 지난 2010년 내셔널 지오그래픽은 흥미로운 통계를 공개했다. 항공기 추락 사고 사망자보다 화석연료 비행기의 배기가스로 인한 사망자 수가 더 많다는 연구결과다. 매년 전 세계에서 추락 사고로 숨지는 사람은 약 1000여 명, 사망 원인이 배기가스인 사망자는 1만 명에 달한다. 성층권에서 운행되는 항공기의 배기가스는 기후변화... by : 앱센터
Tag
Write
first 1 2 3 4 5 6 7 8 9 10 last
Top