진짜·가짜 경계 모호한 AI 시대
딥페이크·피싱 등 AI 관련 사건 늘자
'진짜·Authentic' 단어 검색량도 증가
"스스로 진실 구분해 내는 능력 길러야"
-
- ▲ /아이클릭아트
-
- ▲ 메리엄 웹스터 사전에 정의된 '진짜(Authentic)'. /메리엄 웹스터 사전
AI 세상 속 '진짜'는 무엇일까?
인공지능(AI) 기술이 빠르게 발전하면서 보이스피싱, 딥페이크 등 AI 기술로 만들어진 거짓 정보와 가짜 뉴스 역시 빠르게 확산됐고, 세상이 혼란스러워졌습니다. 무엇이 진짜고 무엇이 가짜인지 구분하기 힘들어졌죠.
AI 기술을 활용하기 어려웠던 예전과 달리 지금은 누구나 간단한 조작으로 AI로 정보를 만들어낼 수 있어요. 문제는 이를 악용하는 사람들이에요. 이 때문에 학교 선생님은 학생이 스스로 독서 감상문을 썼는지 아니면 AI가 불러준 대로 베꼈는지 판단해야 하는 지경에 이르렀어요. 대중은 유명 연예인의 얼굴과 목소리가 딥페이크 기술로 조작된 영상인지 아닌지를 확인해야 하는 상황이 됐습니다.
AI, 참·거짓 구분 못하고 가짜를 진짜로 둔갑
세계 IT 대기업 마이크로소프트사는 2020년 가짜 뉴스와 선정적 뉴스를 찾아내는 전문 인력 800여 명을 모두 해고했습니다. 대신 이들의 역할을 AI에게 맡겼죠. 하지만 결과는 좋지 않았어요. AI가 챗GPT 같은 생성형 AI가 만들어낸 정교한 가짜와 진실을 구분하지 못하면서 거짓 정보가 빠르게 확산됐거든요. 딥페이크 기술도 AI가 정보의 진실 여부를 구별하지 못하게 방해하죠.
심지어 AI가 자신의 주장을 입증하기 위해 거짓 정보를 만드는 상황까지 일어나고 있습니다. 2023년 11월 미국 의학협회 안과학지에 한 논문이 공개됐어요. 챗GPT를 사용해 두 가지 안과 수술 절차를 비교하고, 어떤 결과가 더 나은지를 판단해 달라는 요청을 한 뒤 나타난 결과를 정리한 것이었는데요. 논문에 따르면 AI는 답변에서 특정 수술 결과가 우수하다고 주장했는데, 이때 자신이 주장하는 바를 위해 전문가들이 입력한 수술 결과 데이터 일부를 스스로 조작해 근거로 제시했어요. 거짓 정보를 만들어 근거로 제시한 거예요.
이에 피터 솔콜로프스키 선임 편집장은 "우리가 진실성에 의문을 가질 때 진실이 더욱 가치 있게 여겨질 것"이라며 "개개인 스스로가 무엇이 진실인지 구분하려는 노력이 필요한 때"라고 했어요. 그러니 우리도 진실을 구별하기 위해 언제나 노력해 봅시다.
AI의 술수로 인한 피해 사례
구글
: 생성형 AI 챗봇 ‘바드’가 정가 10만 원에 달하는 컴퓨터 프로그램의 시리얼키를 발설.
마이크로소프트
: AI 뉴스 편집 시스템, 자극적 가짜 뉴스 메인 페이지 공개.
신종 인공지능(AI) 사기
: 중국에서 음성과 영상을 AI로 위조한 보이스피싱 사기 범죄 확산.
AI의 거짓말 사례
: 콜롬비아의 모 항공사를 상대로 소송하던 한 남성이 법원에 낼 의견서를 챗GPT와 함께 작성. 그러나 챗GPT가 존재하지 않는 판례를 지어냄.
거짓 정보 생산으로 거짓말쟁이가 된 AI의 코가 피노키오처럼 길어진 모습을 상상해 그려 보내주세요.
Copyright ⓒ 어린이조선일보 & Chosun.com