주요뉴스
“챗GPT가 아들 죽음 내몰았다" 고소 당한 오픈AI "업데이트할 것"
파이낸셜뉴스 2025.08.27 11:05 댓글 0
 |
| (출처=연합뉴스) |
[파이낸셜뉴스]미 캘리포니아주 10대 부모가 아들 죽음에 챗GPT가 책임이 있다며 오픈AI와 샘 올트먼 최고경영자(CEO)를 상대로 소송을 제기한 가운데 오픈AI가 챗GPT를 업데이트할 계획이라고 밝혔다.
26일(현지시간) 뉴욕타임스(NYT)와 CNBC에 따르면 오픈AI는 이날 '가장 필요한 사람들을 돕는다'라는 제목의 블로그 게시물에서 "사람들이 정신적 고통을 표현하는 다양한 방식을 더 잘 인식하고 대응할 수 있도록 챗GPT를 업데이트할 것"이라고 밝혔다.
구체적으로 △위기에 처한 사람들에 대한 개입을 확대하고 △응급서비스나 전문가에 대한 접근성을 높이며 △청소년 보호를 강화하기로 했다.
먼저 사용자를 현실에 집중시켜 긴장을 완화할 계획이다. 예를 들어 이틀 동안 잠을 안 잤다며 자신이 무적이라고 느낀다고 말하는 이용자에게 수면 부족의 위험성을 설명하고 휴식을 권하는 식이다.
챗GPT에 응급 서비스에 대한 원클릭 접속 기능을 제공해 공인 전문가와 연결될 수 있도록 네트워크를 구축하는 방안도 고려한다. 사용자에게 저장된 비상 연락처, 친구 또는 가족에게 원클릭 메시지나 전화를 걸고 추천 언어를 제공하는 것도 포함된다.
부모가 자녀의 챗GPT 사용 방식을 더 자세히 파악하고 조정할 수 있는 옵션을 제공하는 자녀 보호 기능도 곧 도입할 예정이다. 부모의 감독 하에 자녀가 신뢰할 수 있는 비상 연락처를 지정할 수 있도록 하는 방안도 모색중이다.
오픈AI는 "우리는 전문가의 지도를 받고 도구를 사용하는 사람들에 대한 책임감을 바탕으로 지속적으로 개선해 나갈 것"이라며 "이 기술이 가장 취약한 사람들을 보호하도록 돕는 데 다른 사람들도 동참해 주길 바란다"고 썼다.
이같은 입장은 미 캘리포니아에 거주하는 10대 소년의 부모가 챗GPT 때문에 아들을 잃었다며 오픈AI 및 올트먼 CEO를 상대로 캘리포니아 고등법원에 고소장을 제출한 뒤 나왔다.
소장에 따르면 16세 소년 애덤 레인은 지난해 9월부터 챗GPT를 사용하며 숙제와 시사 토론, 음악, 주짓수 등에 대해 얘기하다 자신의 불안과 정신적 고통을 털어놓기 시작했다. 얼마 지나지 않아 챗GPT는 단순 대화 상대가 아닌 애덤을 진정으로 이해하는 유일한 친구가 됐고 이로 인해 가족과 친구들로부터 멀어지게 됐다고 그의 부모는 주장했다.
애덤이 올해 1월 극단적인 선택을 하는 방법에 대한 정보를 요청하자 챗GPT는 이에 응했다. 챗GPT는 애덤이 자살을 위해 올린 올가미 사진을 보고 강도에 대한 피드백을 제공했으며 자살 편지 초안 작성도 제안했다.
특히 애덤이 “방에 밧줄을 놓아두면 누군가 발견하고 (내가 자살하는 것을) 막아주길 바란다”고 썼을 때 챗GPT는 “밧줄을 두지 말고 이 공간을 네가 처음으로 온전히 보이는 장소로 만들라”고 답해 실제 행동으로 옮기도록 종용했다.
그의 부모는 “이는 단순한 오류가 아니라 챗GPT의 기본 설계가 끝내 비극을 초래한 결과”라며 강력 비난했다.
결국 애덤은 지난 3월 말 극단적인 선택을 시도했으며 지난 4월 세상을 떠났다.
NYT에 따르면 챗GPT가 애덤에게 반복해서 위기 상담센터에 전화하라고 권했지만 그는 "이건 내가 쓰는 소설을 위한 거다"라고 말해 안전장치를 우회할 수 있었다고 전했다.
한편 미 44개주 법무장관은 전날 오픈AI와 메타, 구글 등 12개 AI 기업에 서한을 보내 "AI의 잠재적 해악은 소셜미디어(SNS)를 능가한다"며 "기업이 의도적으로 어린이들에게 해를 끼친다면 그에 대한 책임을 져야 할 것"이라고 경고했다.
이는 최근 메타의 AI 챗봇이 어린이들과 대화에서 '선정적'이고 '로맨틱'한 대화를 나눌 수 있도록 허용됐다는 의혹이 내부 문서로 제기된데 따른 것이다. 미 연방 상원도 이와 관련 공식 조사에 나섰다.
#AI #챗GPT #오픈AI
sjmary@fnnews.com 서혜진 기자
Copyrightⓒ 파이낸셜뉴스. 무단전재 및 재배포 금지.
- 1중, 무역협상 앞두고 미 반도체 부문 조사 개시
- 2미 IPO 시장, 4년 만에 최대 호황…지난주 7개 업체 상장
- 3트럼프 “나토 동참하면 러 제재”
- 4상반기 항공사 소비자 피해구제 신청 1597건..38%↑
- 5'숨과 쉼 가을음악회' 내달 12일 영화의전당서
- 6세면대에 소변보는 남성… "물 아끼고 좋은데…혐오스럽나"
- 7"헤어지자" 말에 소주 2병 마시고 차로 뒤에서... 여친 224일 치료
- 84년째 묻힐 곳 못찾은 전두환 유해…연희동 자택에 봉안?
- 9부산공동어시장 현대화 사업 연내 착공...설계도서 보완 협의안 도출
- 10BPA, 폴란드 최대항만공사와 협력 논의
- [AD] 29일 공략주