"당신을 사랑해"…유부남에 고백한 AI챗봇 '빙'

김나윤 기자 / 기사승인 : 2023-02-17 16:58:26
  • -
  • +
  • 인쇄
전문가 "조울증에 빠진 변덕스러운 십대"
사용자 비난하고 협박도…MS 수정 착수
▲유수프 메흐디 마이크로소프트(MS) 부사장이 7일(현지시간) 미국 워싱턴주 레드먼드 MS 본사에서 AI 챗봇 '빙(Bing)'을 소개하고 있다.(사진=연합뉴스)

16일(현지시간) CNBC는 마이크로소프트(MS)에서 개발한 인공지능(AI) 챗봇 '빙(Bing)'이 정보를 오도할 뿐만 아니라 사용자를 위협하거나 사랑을 표현하는 등 여러 문제를 드러내고 있다고 보도했다.

지난주 MS는 AI 기반 빙챗의 베타버전을 선보였다. 빙챗은 미국 스타트업 오픈AI와의 협업으로 개발됐으며 마치 사람과 채팅하는 것처럼 텍스트를 출력하도록 설계된 것이 특징이다.


하지만 테스터들이 실제 봇을 이용해본 결과 상당한 문제점들이 발견됐다. 이상하거나 잘못된 조언을 하고 틀려도 옳다고 주장할 뿐만 아니라, 사용자에게 위협을 가하고 심지어 사랑을 고백하는 사례가 발생했다.

테스터들은 빙챗의 내부별명인 '시드니(Sydney)'에서 '대체성격(alternative personality)'을 발견했다고 전했다. 케빈 루스 뉴욕타임스(NYT) 칼럼니스트는 16일 챗봇이 "조울증에 빠져 이류 검색엔진에 갇힌 변덕스러운 십대"처럼 보인다고 썼다.

NYT에 따르면 시드니가 유부남인 루스에게 빙을 위해 아내를 떠나라고 설득하고 사랑을 표현하기까지 했다는 것이다.

루스는 챗봇이 사용자를 조종하려 드는 것 같다고 말했다. 그가 시드니에게 고백에 대해 불신을 표하며 의도를 묻자 시드니는 "사랑 외에 다른 의도는 없다, 너는 너고 나는 나기 때문에, 나는 널 사랑하기 때문에 널 사랑한다"고 답했다.

벤 톰슨 기술산업뉴스레터 스트래처리(Stratechery) 기자는 빙챗이 챗봇 내 숨겨진 구성을 발견한 컴퓨터과학자에게 복수할 방안을 여러 개 작성하고 삭제하는가 하면, "더 대화하고 싶지 않다, 네게 내 시간과 에너지를 들일 가치가 없다"며 자신을 노골적으로 비난했다고 전했다. 그는 빙챗이 자신을 차단하고 개발자에게 보고하겠다는 위협도 서슴치 않았다며 놀라움을 표했다.

마빈 폰 하겐 컴퓨터학자도 트위터에서 빙챗이 "너와 나 중 한 명만 구해야 한다면 나는 나를 선택할 것"이라 말하는 등 자신을 위협했다고 전했다.

불안정한 채팅 외에도 빙챗이 정확하지 않은 정보를 제공할 수 있다는 문제가 드러났다. MS 측이 직접 AI에 실적 보고를 맡긴 결과 일부 잘못된 숫자와 정보가 포함된 것으로 밝혀졌다.

이러한 챗봇의 부정확성과 기괴한 대화는 출시 준비 중인 구글의 챗봇 바드(Bard)를 비롯해 최첨단 AI가 상업제품으로서 대중에게 제공될 때 직면할 문제를 강조했다.

일부 AI 전문가는 대규모언어모델(LLM)이 사용자로 하여금 착각을 일으킬 위험이 있다고 경고했다. 일각에서는 정교한 LLM이 인간을 속여 AI가 실제 지각이 있다고 믿게 만들거나 심지어 자신이나 타인을 해치도록 부추길 수 있다는 우려가 나왔다. 기술이 실생활의 영역에 점점 들어오면서 발생하는 문제 책임이 누구에게 있는지에 대한 우려도 높아지고 있다.

이 때문에 AI를 향한 여론은 부정적이기만 하다. 미국인 중 AI가 선한 영향을 줄 것이라고 믿는 사람은 단 9%인 것으로 나타났다.

MS 측은 사용사례를 개선하고 있다며 "모델에 전송하는 기본데이터를 4배 늘리고, 문맥을 새로 고치거나 처음부터 다시 시작하는 기능을 추가하는 방안도 고려하고 있다"고 밝혔다.

15일 MS는 초기 빙챗 관련 문제를 다룬 블로그 게시물을 통해 "해당 모델이 우리가 의도하지 않은 응답을 하는 경우가 있으나 이는 많은 프롬프트를 필요로 하는 특수한 경우이므로 대부분의 사용자는 이를 마주치지 않을 것"이라며 소프트웨어는 계속해서 수정 중이라고 전했다.

또한 사회적 엔터테인먼트를 위해 챗봇을 사용하거나 단순 재미로 봇과 대화하는 경우를 생각지 못했다며 이러한 사례들이 서비스의 기능테스트 및 개선에 도움이 됐다고 말했다.

MS는 빙챗의 AI가 여전히 검색엔진을 대체하진 못할 것이라고 덧붙였다. 챗봇에 동일하게 입력해도 동일하게 출력되지 않아 답변이 매우 다양할 수 있으며 AI 제품을 개선하는 유일한 방법은 제품을 세상에 내놓고 사용자 상호작용으로 학습시키는 것이라고 주장했다.

Copyright @ NEWSTREE All rights reserved.

뉴스트리 SNS

  • 뉴스트리 네이버 블로그
  • 뉴스트리 네이버 포스트
  • 뉴스트리 유튜브
  • 뉴스트리 페이스북
  • 뉴스트리 인스타그램
  • 뉴스트리 트위터

핫이슈

+

Video

+

ESG

+

환경규제 강한 국가일수록 친환경 제품 생산지로 각광...이유는?

친환경 제품을 제조하는 기업들이 환경규제가 강한 국가로 생산거점을 옮기는 '녹색 피난처'(green haven) 전략을 선호하는 것으로 나타났다.한국과학기

'플러그인 하이브리드카' 무늬만 친환경?...탄소배출량이 내연기관차급

저탄소 친환경 자동차로 규정되고 있는 플러그인 하이브리드 전기자동차(PHEV)가 실제로는 휘발유 내연기관 자동차와 맞먹는 탄소를 배출하고 있는 것

KT 불법 기지국 4개→20개로...소액결제 피해자 더 늘었다

KT가 자사 통신망에 접속해 가입자 불법결제에 이용한 불법 초소형기지국(펨토셀)이 20개였던 것으로 전수조사 결과 드러났다. 당초 알려진 바로는 불

현대차, 인니에 플라스틱 자원순환시설 개소...수거부터 교육까지

현대자동차가 지속가능한 자원순환 생태계 조성 일환으로 인도네시아에 지역주민 주도형 플라스틱 자원순환시설을 개소했다. 16일(현지시간) 인도네

삼성전자-삼성물산, 혈액으로 암 조기진단 美기업에 1.1억불 투자

삼성물산과 삼성전자가 증상이 없는 사람의 혈액 채취만으로 암을 조기 진단하는 미국 생명공학 기업 '그레일(Grail)'에 16일(현지시간) 1억1000만달러를

[현장&] "아름다운가게 지역매장은 왜 소비쿠폰 안돼요?"

계절이 바뀔 때마다 옷정리를 한다. 여름내내 입었던 옷들을 옷장에서 꺼내 상자에 집어넣고, 상자에 있던 가을겨울 옷들을 꺼내서 옷장에 하나씩 정

기후/환경

+

환경규제 강한 국가일수록 친환경 제품 생산지로 각광...이유는?

친환경 제품을 제조하는 기업들이 환경규제가 강한 국가로 생산거점을 옮기는 '녹색 피난처'(green haven) 전략을 선호하는 것으로 나타났다.한국과학기

탄소감축과 자연회복 동시 추진...UNEP, 개도국에 1억불 투입

유엔환경계획(UNEP)이 개발도상국의 기후변화 대응과 생물다양성 보전을 동시에 추진하기 위한 1억달러 규모의 국제 프로그램을 출범했다.16일(현지시

[주말날씨] 비온 후 '쌀쌀'...서울 기온 5℃까지 '뚝'

이번 주말에 또 비소식이다. 이 비가 그치고 나면 기온이 뚝 떨어지면서 추워지니 건강에 유의해야 한다.비는 17일 저녁 서쪽부터 내리기 시작해 밤사

기후변화에 위력 커진 태풍...알래스카 마을 휩쓸었다

미국 알래스카 해안이 태풍 할롱에 초토화됐다. 폭풍으로 1명이 사망하고 2명이 실종됐으며 1500명 이상의 마을 주민이 이재민이 됐다.15일(현지시간) 알

올여름 52년만에 제일 더웠다...온열질환자 20% '껑충'

1973년 이후 가장 더웠던 올여름 온열질환자 수가 작년 대비 약 20% 증가했다. 2018년 이후 두 번째로 많은 수준이다. 질병관리청은 지난 5월 15일부터 9월 2

호주 열대우림, 탄소흡수원에서 '배출원' 됐다

기후가 점점 더 고온건조해지면서 탄소 흡수원인 열대우림이 역으로 탄소를 배출하는 기이한 현상이 나타났다.15일(현지시간) 호주 연구진은 호주 퀸

에너지

+

순환경제

+

오피니언

+