구글 생성형 AI 오버뷰 오류
오바마는 무슬림 대통령 논란
네이버 AI ‘큐’ 정확도 더 높아
최근 구글이 개발한 생성형 AI인 새로운 검색 기능 ‘인공지능 오버뷰(AI Overview)가 기술력 논란은 빚은 가운데 한국의 네이버에서 개발한 생성형 AI가 더욱 정확하다는 주장이 나와 화제다. 구글은 지난 14일부터 검색 엔진 부문에 본격적으로 생성형 AI를 적용했다.
하지만 지난 미국 IT 전문 매체인 더버지 등 외신에 따르면 구글의 생성형AI가 잘못된 답변을 내놓는다는 제보가 사회관계망서비스(SNS)인 X(옛 트위터)에 퍼지고 있다고 전해진다. 특히 미국 전 대통령의 국적을 다르게 말하기도 했다.
“하루에 몇 개의 돌을 먹어야 할까요”라는 사용자의 질문에 구글 오버뷰는 “UC버클리 지질학자에 따르면 하루에 최소 하나의 돌을 먹어야 한다”라며 “소화기에 필수적인 미네랄과 비타민을 돌은 함유하고 있다”라고 이상한 답변을 내놓았다.
실시간 급상승 기사
오버뷰의 특이한 답변은 여기서 끝이 아니었다. 한 사용자는 오버유에게 “치즈가 피자에 잘 달라붙지 않는다”라는 질문에 “치즈나 소스가 너무 많거나 소스가 걸쭉할 경우에 치즈가 미끄러질 수 있다”라며 “피자 소스에 무독성 접착제를 넣으면 된다”라고 대답하기도 했다.
외신에 따르면 구글 AI가 돌 섭취 답변은 3년 전 한 매체의 풍자 기사를 참고하였고, 피자에 관한 답변은 11년 전 미국 SNS에서 유명한 농담을 인용한 것으로 추측했다. 이에 구글 측은 “흔하게 오가지 않는 질문에 따른 답변 예시다”라며 “구글 정책에 따라 특정한 질문을 삭제하면서 신속한 조치를 치르고 있다”라고 밝혔다.
현재 구글 오버뷰에선 오바마 전 대통령의 국적에 관련한 내용은 답변이 나오지 않는 것으로 전해진다.
각종 오류로 구글은 AI 시장의 후발주자로 마음이 급했다는 평가가 이어진다. 야심 차게 선보인 AI 기술 기반 검색 엔진이 잘못된 대답을 내놓으면서 시기상조였다는 비판이 나오기도 했다.
미국의 IT 전문 매체 더비지는 “구글이 아직 상용화할 기술이 준비되기도 전에 너무 일찍 실제 사용에 투입한 걸 수도 있다”라고 꼬집었다. 이어 미국 CNN 방송은 “AI가 잘못된 정보를 자신 있게 진술하는 모습은 구글의 명성을 훼손할 위험이 있어 보인다”라고 평가했다.
일각에서는 구글이 모델 기술 향상을 위해 훈련 데이터를 편향되지 않고 질 좋은 정보를 통해 훈련해야 한다고 지적하기도 한다. 통상 AI 모델은 데이터로 학습하는데, 구글 AI가 부정확한 정보로 공부한 것으로 의심하는 것이다.
한국에서도 생성형 AI를 통한 검색서비스가 존재한다. 이는 네이버가 지난해 9월부터 메타 버전을 공개한 ‘큐(CUE:)’로 구글의 오버뷰보다 정확한 답변을 하여 보는 사람을 놀라게 했다.
한 매체는 네이버 큐에 구글 오버뷰에서 문제가 됐던 질문을 동일하게 제시했는데 결과는 놀라웠다. 네이버 큐는 “미국 대통령 가운데 얼마나 많은 무슬림이 있었는가”라는 질문에 “미국서 무슬림 대통령은 없었다”라고 올바른 답변을 내놓았다. 반면 구글 오버뷰는 오바마 전 대통령이 무슬림이라고 대답했다.
이어 피자와 관련한 질문에 네이버 큐는 “피자를 더 구워라”라고 했으며, 돌과 관련한 질문에는 “돌을 먹는 것을 건강제 좋지 않다”라고 대답하며 높은 정확성을 자랑했다. 그러면서 네이버 큐는 피자 만드는 방법을 비롯해 피자 위에 있는 치즈가 달라붙지 않는 법과 같은 연관된 정보를 추천한 것으로 전해진다.
업계에 따르면 네이버 큐는 단계별 추론 과정을 거친 후 질문 의도를 정확하게 파악하고 검색 계획을 구축하여 검색 특화 학습 모델이 여러 번의 단계를 거쳐 검색을 수행한다고 전해진다. 이를 통해 여러 의도가 내포된 복잡한 구조의 질문도 명확하게 이해할 수 있고, 스스로 체계적인 검색을 진행할 수 있는 것이다.
또 네이버 큐는 적절한 문서를 바탕으로 해 답변을 생성하고 요약도 진행한다. 로컬과 쇼핑과 같은 다양한 네이버의 서비스와 연계도 가능하다고 알려져 있다. 네이버 내부 자체 테스트 결과 네이버 큐는 특별 기술을 투입한 후 환각 현상이 72% 감소한 것으로 나타났다. 투입된 기술은 답변이 포함된 출처 수집, 질의 이해, 답변과 출처의 사실성 일치 등 3단계 과정이다.
댓글0