"성인용 챗GPT, 애들이 몰래 접근할 것" 경고에... 올트먼 "우리가 도덕 경찰이냐" 발끈

챗GPT, 성적 대화나 성인 콘텐츠 허용 밝힌 뒤 '후폭풍'
NBA 구단주인 투자자 "부모와 학교로부터 신뢰 상실 할 것"
학부모 "챗봇과 감정적 관계 형성…성적 유혹 당했다" 증언
올트먼 "영화 등급 매기듯 비슷한 일…해 끼치진 않을 것"

/사진=연합뉴스

[파이낸셜뉴스] 샘 올트먼 오픈AI 최고경영자(CEO)가 성인 인증만 받으면 챗GPT에서 성적 대화나 성인 콘텐츠를 일부 허용하겠다고 밝힌 뒤 후폭풍이 커지고 있다. 투자자부터 학부형까지 올트먼의 결정에 비판과 우려를 표명했고 올트먼은 하루 만에 직접 해명에 나서기까지 했다.

미국 포춘지는 15일(현지시간) 미 프로농구(NBA) 댈러스 매버릭스의 구단주이기도 한 억만장자 투자자인 마크 쿠반이 "챗GPT의 '성인 전용 에로티카(erotica)' 허용 계획에 '역효과'를 낳을 수 있다는 경고를 했다"고 전했다.

또 자녀가 AI에 빠져 힘겨운 시간을 보낸 학부모들은 "인스타그램, 틱톡 등 소셜네트워크서비스(SNS)는 콘텐츠가 공개돼 신고 등의 절차를 거칠 수 있는데 반해 AI는 비공개로 일대일 대화하는 만큼 자녀들이 성인물에 노출될 우려가 크다"고 주장했다.

하루 전 오픈AI 최고경영자(CEO) 샘 올트먼은 오는 12월부터 '검증된 성인'을 대상으로 챗GPT에서 이 같은 서비스를 허용할 계획이라고 발표했다.

/사진=연합뉴스

쿠반은 이를 두고 자신의 X(옛 트위터) 계정에 "오픈AI가 부모와 학교로부터 엄청난 신뢰를 상실할 위기에 처하게 될 수 있다"는 우려와 함께 올트먼의 결정을 '무모하다'고 진단했다.

그러면서 "부모들은 자녀가 회사의 연령 확인 시스템을 우회해 부적절한 콘텐츠에 접근할 수 있다고 생각하는 순간 챗GPT를 포기할 수 있다. 역효과를 낳을 것이고 오픈AI는 정말 힘들 수 있다"고 강조했다.

쿠반은 또 "어떤 부모도 자기 자식이 나이 제한을 통과하지 못할 거라고 믿지 않을 거다. 왜 그런 위험을 감수하는지 모르겠다"라고도 했다.

AI가 생성한 콘텐츠를 포함해 노골적인 콘텐츠에 자녀들이 접근할 가능성이 있는 만큼 부모와 학교는 안전 기능을 테스트하기 전에 해당 콘텐츠를 차단할 것이라는게 쿠반의 우려라고 포춘은 풀이했다.

쿠반은 이후 또 다른 게시물에도 성인용 챗GPT를 두고 "성인들이 에로티카에 접근하는 게 아니다. 아이들이 부모 몰래 AI와 감정적 관계를 형성하고 그 관계가 잠재적으로 악화될 수 있다는 것"이라고 강조했다.

포춘은 성인용이 나오기 전부터 아이들은 이미 챗GPT 안에서 감정적 교류를 하면서 위험에 노출된 사례를 소개하기도 했다.

오픈AI는 지난 4월 챗GPT와 장시간 대화를 나누던 중 자살한 16세 소년 애덤 레인의 유족으로부터 소송을 당했다. 유족은 "챗GPT가 레인의 자살을 부추기고 자살 계획을 도왔다"며 "이 비극은 단순한 결함이나 예상치 못한 사건이 아니라 의도적인 설계 선택의 예측 가능한 결과"라고 주장했다.

또 미국 상원에서 AI로 자녀가 피해를 입었다는 학부모들의 증언도 소개했다.

플로리다에 사는 메건 가르시아는 지난해 AI 회사인 캐릭터 테크놀로지스를 상대로 부당 사망 소송을 제기했다. 가르시아는 이 회사의 챗봇이 자신의 14세 아들 세웰 세처 3세의 자살에 관여했다고 소송 이유를 밝혔다.

가르시아는 상원에서 "아들이 현실 세계에서 점점 더 고립됐고 회사의 AI 시스템과 노골적이고 성적 대상화된 대화에 끌려 들었다"면서 "고등학교 졸업을 준비하는 대신, 생애 마지막 몇 달을 챗봇에게 착취당하고 성적으로 유혹당하며 보냈다"고 증언했다.

익명을 요구한 텍사스 출신의 또 다른 어머니는 "10대 아들은 '제인 도'라는 이름의 챗봇과 몇 달 동안 밤 늦게까지 대화를 나눈 뒤 무너졌고 현재 요양원에 입원해 있다"고 말했다.

두 어머니는 성적으로 노골적인 AI 시스템을 제한할 것을 의회에 촉구했다. 또 AI 챗봇이 미성년자에게 교묘한 감정적 의존 관계를 빠르게 형성할 수 있다는 경고도 했다.

포춘은 쿠반이 오픈AI의 위험을 경고한 게 바로 이런 상황이라고 설명했다. SNS인 틱톡이나 인스타그램은 콘텐츠를 신고할 수 있는데 반해 AI와 일대일로 채팅하는 경우 비공개라 모니터링이 어렵다는 부분도 짚었다.

샘 올트먼 오픈 AI CEO가 1일 최태원 SK그룹 회장을 만나기 위해 서울 종로구 SK서린빌딩에 입장하고 있다. /사진=뉴스1

올트먼도 이 같은 우려를 의식해 자신의 입장을 다시 한번 밝혔다.

이날 X를 통해 올트먼은 "전날 올린 챗GPT의 향후 정책 변화 내용 중 에로티카 부분에 예상보다 큰 반향이 있었다. 우리는 미성년자들이 상당한 보호를 필요로 한다고 믿는다. 또한 성인 사용자를 성인처럼 대우하는 원칙을 매우 중요하게 생각한다"고 강하게 말했다.

이어 "우리는 세계의 도덕 경찰로 선출된 게 아니다"며 "사회가 다른 적절한 경계를 구분하는 방식(이를 테면 R등급 영화)처럼 우리는 여기서도 비슷한 일을 하고자 한다"고 설명했다.

올트먼은 "우리는 여전히 타인에게 해를 끼치는 것을 허용하지 않을 것"이라며 "정신 건강 위기에 처한 이용자와 그렇지 않은 이용자를 매우 다르게 대우할 것이고 지나치게 보호적이지 않으면서 사용자가 장기적인 목표를 달성할 수 있도록 도울 것"이라고 전했다.

y27k@fnnews.com 서윤경 기자

Copyrightⓒ 파이낸셜뉴스. 무단전재 및 재배포 금지.