네이버 AI 챗봇 큐 (CUE) 가 공개를 앞두고 있습니다. 구글 ‘바드’와 MS ‘챗GPT’가 먼저 출시 되었지만 한국어에 강점이 있기에 많은 사람들이 그 정확성에 대해 기대를 할 것입니다.
단순히 생각해 보아도 영어 기반의 채팅형 AI 프로그램 보다 한국어에 기반을 둔 챗봇이 더 우위에 있을 수밖에 없기 때문입니다.
네이버 AI 챗봇 큐 신뢰성 우려가 되는 이유
지난번 글에서 챗봇 서비스가 조작에 의해 오염될 가능성에 대해 포스팅을 하였습니다.
사실 전문적인 기술과 지식 없이 단순히 그렇지 않을까라는 생각에 불과하다고 볼 수도 있습니다.
하지만 필자의 머릿속에는 아직도 데이터 오염에 대한 우려가 맴돌고 있습니다. 특히 네이버라면 더 심하지 않을까 혼자 망상에 잠겨 봅니다.
최근 KBS 뉴스 기사를 봐도 연관 검색어 조작과 블로그 노출 순위를 조작하여 재판에 넘겨진 사례가 있었습니다.
출처: KBS 뉴스 검찰, 네이버 연관검색어 조작
이러한 블로그 랭킹 순위 조작과 연관 검색어가 원하는 대로 뜰 수 있도록 트래픽을 조작하는 어뷰징 행위는 예전부터 있어왔습니다.
물론 지난번 글에도 썼듯이 네이버 쇼핑 순위 조작도 여전히 성행하고 있습니다.
챗GPT AI 신뢰성
다만 네이버가 조작 행위를 막아내느냐, 다른 업체에서 로직을 파악하여 뚫느냐의 싸움이 지속될 뿐이었죠.
네이버 챗봇 큐 AI 원시 데이터 오염 가능성
네이버 AI 챗봇 큐 (CUE)가 아무리 로직적으로 우수하다고 해도 결국 집계된 데이터는 네이버 서비스를 기반으로 할 것입니다. 물론 외부 웹문서를 가져다 분석하고 답을 제시할 수도 있습니다.
하지만 자체 서비스인 블로그나 쇼핑 서비스, 데이터랩, 트랜드 분석 데이터 역시 활용할 것이라 생각할 수밖에 없습니다.
이 데이터가 조작되었고 가짜에 불과하다면 우리는 그것을 믿을 수 있습니까?
특히 지금은 구글에 밀리는 듯한 모습을 보이지만 그럼에도 불구하고 영향력이 큰 네이버는 항상 어뷰징 공격의 대상이 되어 왔습니다.
만약 챗봇 큐가 어떠한 제품에 대해 추천을 한다면 상상을 초월할 정도의 조작이 이루어질 것입니다.
블로그, 카페, 쇼핑몰 가짜 구매 등 종합 점수를 올려 CUE가 자신이 판매하는 제품이 추천되도록 유도할 것입니다.
누군가는 또다시 검색어를 조작하여 사람들이 그들의 제품을 많이 찾는 것으로 인식하게 만들지도 모릅니다.
또 다른 이들은 자본력을 앞세워 어마어마한 수의 제품 추천 글을 발행할지도 모릅니다. 이러한 환경 속에서 과연 네이버 챗봇 CUE는 올바른 답변을 할 수 있을까요?
사실 올바른 답변이라는 것도 주관적인 것에 불과할지도 모르겠습니다. 차라리 객관적인 정보만 분석하여 제공하고 주관성이 들어갈 수 있는 질문에 대해서는 답변하지 않도록 하는 것이 올바르지 않을까요?
공개 예정인 네이버 챗봇 큐, 외부 공격의 먹잇감이 되어 공정성을 잃어버리게 될지, 상업성을 배제하고 공정하면서 객관적인 답변만 하는 편리한 서비스가 될지 정말로 궁금해지는 대목입니다.
그리고 마지막 질문과 함께 글을 마치도록 하겠습니다.
최근 유행하고 있는 네이버 포스트를 활용한 뒷광고 형태, 네이버 AI는 그것이 가짜라고 분석할 수 있습니까?
