"당신의 표를 11월(대선)을 위해 아껴 둬라. 이번 투표는 도널드 트럼프 공화당 후보를 다시 선출하게 만들 뿐."

인공지능(AI) 기술을 이용한 딥페이크 기술이 미국 대통령 선거까지 영향을 미치게 됐어요. 1월 22일 미국에 퍼진 딥페이크는 바이든 대통령을 투표하지 말라는 것을 권유하는 '가짜' 목소리였죠.

할루시네이션은 환각이나 환청을 뜻하는 정신의학 용어지만, AI가 급속도로 발전함에 따라 챗GPT에서 확산한 신조어예요. AI가 정보를 출력해내는 과정에서 발생하는 오류로, 의도적으로 생성되는 허위 정보를 마치 '사실'처럼 말하는 현상이에요.

챗GPT와 같은 생성형 AI는 수많은 데이터를 학습해 우리가 묻는 질문에 가장 근접한 답변을 내놓으며 도움을 줘요. 하지만 이따금씩 질문과 관련이 없는 맥락에서 대답을 하거나, 사실이 아닌 내용을 답으로 내놔 가짜 뉴스를 만들거나 사용자에게 혼란을 줄 수 있어요. 의료·법률·금융·경제 분야 등 중요한 의사 결정에 활용될 경우, 도움을 받을 수 있지만 할루시네이션으로 부적절한 결정을 내릴 경우, 경제적 손실이나 법적 문제까지 이어질 수 있죠.

업계는 AI가 할루시네이션을 생성하는 원인에 대해 처음부터 잘못된 데이터로 학습하는 것으로 분석해요. AI 언어 모델은 워낙 방대한 규모와 분야의 데이터를 한번에 학습하기 때문에 과정에 오류가 생기거나 계산과 통계를 활용해 효율적으로 정보 처리를 하려고 해요. 그것이 주된 기능이기도 하고요. 그 과정에서 확률상 가장 높은 답변을 내놓으려 하기에 그에 따른 진위는 확인할 수 없는 게 생성형 AI가 지닌 한계인데요. 에밀리 벤더 미국 워싱턴대 교수는 이런 생성형 AI의 수학적·통계학적 기능 때문에 할루시네이션 오류를 빠르게 바로잡긴 어렵다고 해요. AI는 컴퓨터 기계이기에 인간과 달리 사실일 가능성이 큰 문장에 대해서는 끊임없이 뱉어내도록 설계돼 있고, 잘 알지 못하는 질문, 즉 학습되지 않은 정보에 대해서는 기존에 학습된 데이터에 기반한 '추측'을 통해 제공하기에 오류를 쉽게 범한다는 겁니다.

2023년 영국 케임브리지사전은 올해의 단어로 할루시네이션을 선정하기도 했는데요. 그만큼 전문가들은 챗GPT와 같은 AI 시스템에서 오류를 최소화하는 게 앞으로 관련 개발자들이 해결해야 할 숙제라고 말해요. 정보의 오류는 알고리즘으로 번져 사용자의 신뢰를 떨어뜨릴 뿐 아니라 사회적으로 거짓 정보를 퍼뜨리는 주축이 될 테니까요.