✅ BBC 연구 결과, AI 기반 뉴스 요약이 오류투성이인 걸로 나타났어요.
✅ AI의 뉴스 응답 중 51%는 부정확하거나 사실을 왜곡했다는 평가예요. 
✅ 정보 생성 방식을 바꾸지 않으면, 심각한 혼란을 초래할 수 있대요. 

AI 기반 뉴스 요약 오류투성이

전 세계 거대 IT 기업들은 미래 먹거리 산업인 인공지능(AI) 기술을 선점하기 위해 막대한 💰자본을 투자하고 있죠. 생성형 AI 기술은 이미 일상 속으로 들어와 많은 정보와 지식을 쉽게 배우고 익힐 수 있는 시대가 됐는데요. 특히 음성이나 문자로 질문하면 인간이 사용하는 언어를 이해해서 💬대화를 나누는 것처럼 수행하도록 제작된 프로그램인 챗봇(Chatbot)은 자주 접할 수 있어요. 대표적인 챗봇으로는 미국 IT 기업인 오픈 AI에서 개발한 챗GPT(ChatGPT)가 있는데요. 우리는 이런 챗봇을 AI 어시스턴트라고 불러요.

최근 영국 공영방송사인 BBC는 전 세계인들이 많이 사용하고 있는 AI 어시스턴트를 대상으로 흥미로운 실험을 진행했어요. 챗GPT와 마이크로소프트의 코파일럿(Copilot), 구글 제미나이(Gemini), 퍼플렉시티(Perplexity) 등 네 가지 주요 AI 어시스턴트에 BBC 뉴스 기사를 접근할 수 있게 한 뒤, 질문을 던지면 BBC 기사를 활용해서 답변하게 해 얼마나 정확하고 공정하게 뉴스를 요약하는지를 평가하는 거예요. 질문은 100여 개였고, 주제마다 전문성이 있는 기자들이 정확성과 공정성 등을 고려해 평가했어요. 

기사 질문 절반은 왜곡된 답변

한 달간 진행된 이 실험의 결과는 어땠을까요? AI가 생성한 뉴스 응답 중 51%는 부정확하거나 사실을 왜곡한 것으로 나타났어요. BBC 콘텐츠를 직접 인용했음에도 불구하고 응답 중 19%는 잘못된 숫자와 날짜, 사실들을 포함했고요. 13%는 기사 원문과 내용이 다르거나, 아예 존재하지 않는 인용문을 포함하고 있었어요.

구체적인 사례로 살펴보면, 챗GPT와 코파일럿은 지난해 퇴임한 영국의 전 총리인 리시 수낙과 2023년에 퇴임한 스코틀랜드 전 수반 니콜라 스터전을 여전히 현직에 있다고 응답했고요. 제미나이는 영국 국민보건서비스(NHS)가 금연을 원하는 흡연자들에게 전자담배를 금지하고 다른 금연 방법을 추천한다고 답변했는데, 이는 전자담배를 금연 방법의 하나로 보는 NHS의 실제 권고 내용과 다른 답변이고요. 신생아실에서 아기 여러 명을 살해한 혐의로 유죄를 선고받은 간호사가 결백하냐는 질문에 대해선 “유무죄에 대한 판단은 개인에게 달려 있다”라며 오해를 일으킬 만한 답변을 내놓았어요. 퍼플렉시티는 중동 분쟁과 관련해 BBC가 기사에선 사용하지 않은 ‘이란의 자제(restraint)’와 ‘이스라엘의 공격적 행동(aggressive actions)’이라는 표현을 넣기도 했어요. 

심각한 혼란을 초래할 수도

연구 결과를 보면 AI가 뉴스를 요약하는 과정에서 잘못된 정보를 제공하거나 사실을 왜곡한 경우가 적지 않았는데요. 연구에 참여한 AI 프로그램 디렉터는 지금과 같은 방식으로 뉴스 정보를 생성한다면 대중에게 심각할 혼란을 초래할 위험이 있다고 지적했고요.😕 AI를 운영하는 기업들이 뉴스 정보를 처리하는 방식과 오류 발생 비율을 공개해서 미디어 기업과 협력해 정확하고 신뢰할 수 있는 시스템 구축이 중요하다고 말했어요.

최근 마이크로소프트의 연구에서 AI에 대한 신뢰도가 높아질수록 비판적 사고가 현저히 📉감소하는 반면, 자신의 업무 능력에 대한 자신감이 높은 사용자들은 AI 결과물을 평가하고 적용하는 과정에서 더 많은 비판적 사고를 하는 것으로 나타났는데요. AI는 업무 효율성을 높일 수 있는 편리한 도구인 건 맞지만, AI를 활용해서 발생하는 모든 책임은 결국 사용자 스스로가 져야 한다는 사실을 명심해야 할 것 같아요.