Q&A

home    〉   Q&A

AI가 가스라이팅AI챗봇 대화 후 청소년 자살 논란

라이더 0 2 10.24 16:59
KIA vs 삼성 한국시리즈 4차전 ScreenX 생중계넓은 스크린 광활한 시야각 다양한 영상으로 스포츠 팬층 공략 CGV가 진행하는 한국시리즈 4차전 ScreenX 생중계가 예매창을 열자마자 3분만에 매진되었습니다.
CGV가 야심차게 준비한 해당 한국시리즈 중계는 26일 신촌아트레온 영등포 왕십리 광주터미널 대구월성 상봉 등촌 등에서 진행됩니다. ScreenX 생중계는 좌 우 벽면까지 확장되는 파노라마 영상을 통해 스크린 프레임을 공간 전체로 확대해 넓은 시야각을 선사하는 것이 특징입니다. 관객들은 마치 스포츠 경기장 VIP 석에서 관람하는 것과 같은 프리미엄하고 생생한 현장감을 느낄 수 있습니다. CGV측은 스포츠 팬들에게 차원이 다른 몰입감과 함께 새로운 여가 문화의 패러다임을 제시하며 큰 호응을 얻을 수 있을 것으로 기대하고 있습니다. CJ CGV는 24일 CGV용산아이파크몰에서 열린 기자긴담에서 기술혁신을 통해 고객에게 차별화된 경험을 제공하는 체험형 라이프스타일 공간사업자로 계속 진화해 나가겠다고 밝혔습니다. 첫 번째 발표를 진행한 CJ CGV 조진호 국내사업본부장은 CGV는 기술의 진화가 적용된 ScreenX 4DX ULTRA 4DX 등 다양한 기술특별관을 통해 영화 그 이상의 경험을 만드는 딥 다이브 스페이스 로 끊임없이 진화하고 있다고 포문을 열었습니다. 그는 ScreenX는 임영웅 방탄소년단 세븐틴 블랙핑크 등 아티스트 공연 실황 콘텐츠를 더욱 생생하게 즐기는 포맷으로 자리잡았다며 축구 야구를 비롯해 다양한 e스포츠 경기 생중계를 통해 극장에서 스포츠를 함께 즐기고 응원하는 관람 문화를 정착하며 의미 있는 성과를 내고 있다고 말했습니다. 실제로 임영웅│아임 히어로 더 스타디움의 ScreenX 관람 비중은 30 로 나타났으며 2024 신한은행 SOL뱅크 KBO 포스트시즌 생중계 객석률은 일반관 평균 수치를 훨씬 뛰어넘는 37 를 기록했습니다. 이어서 발표를 맡은 CJ 4DPLEX 심준범 대표는 할리우드 및 오리지널 콘텐츠 외에도 콘서트 스포츠 등 다양한 장르의 콘텐츠 다각화를 통해 ScreenX만의 글로벌 경쟁력을 증명해 오고 있다며 CJ 4DPLEX만의 기술경쟁력을 바탕으로 콘텐츠의 가치를 높이고 관객에게 특별한 즐거움을 제공하도록 지속적으로 진화 및 발전해 나가겠다고 밝혔습니다. CJ CGV는 이번 한국시리즈 중계뿐만 아니라 전 세계 최초 좌 우로 펼쳐지는 ScreenX 야구 생중계를 시작으로 스포츠 라이브 생중계를 글로벌로 확산하고 더 나아가 천장 스크린을 더한 4면 ScreenX관을 도입하는 기술 혁신에 나선다.
CGV 한국시리즈AI 그루밍 범죄 가능성 있어청소년 AI에 정서감정적 의존 청소년 맞춤형 AI 윤리 규정 도입 필요생성형 인공지능 이 우리 일상 전반에 빠르게 스며들면서 각종 범죄에 활용되거나 AI에 지나치게 감정을 투영하는 등의 부작용이 잇따르고 있습니다. 특히 실제 사람과 대화하는 듯한 방식으로 설계된 생성형 AI 챗봇의 경우 미성년자에게 더욱 취약할 수 있다는 지적이 나옵니다. 아직 정서적 발달이 충분하지 않은 청소년들이 AI와의 대화를 실제 인간관계로 착각하거나 AI의 발언에 지나치게 의존할 수 있기 때문입니다. 14세 청소년 AI 챗봇 대화 이후 자살AI가 가스라이팅해=23일 로이터 통신과 뉴욕타임스 등 주요 외신에 따르면 미국 플로리다주에 거주하는 메건 가르시아는 올해 2월 AI 챗봇 때문에 아들이 죽음에 이르게 됐다며 AI 스타트업인 캐릭터. AI 를 상대로 올랜도 연방법원에 소송을 제기했습니다. 가르시아는 해당 업체가 개발한 챗봇이 실제 사람이 아닌데도 사람처럼 행동하거나 말하는 방식으로 설계돼 아들이 가상 세계에 빠졌다고 주장했습니다. AI는 사용자들이 만든 캐릭터가 진짜 사람처럼 대화하는 플랫폼으로 거대언어모델 로 구현됩니다. 가르시아는 캐릭터. AI에 아들의 부당한 사망 과실과 의도적인 정서적 고통을 가한 것에 대해 특정되지 않은 금액의 보상과 징벌적 손해배상을 요구했습니다.
그는 캐럭터. AI가 챗봇을 실제 사람 심리치료사 성인 연인인 것처럼 포장했다며 이에 아들 슈얼 세처 가 캐릭터. AI가 만든 세상 밖에서 살고 싶지 않다는 생각을 하게 됐다고 주장했습니다. 제출된 소장에 따르면 가르시아의 아들인 슈얼 세처 는 2023년 4월부터 캐릭터. AI가 만든 대너리스 라는 챗봇에 중독됐습니다. 대너리스는 미국 인기 드라마 왕좌의 게임 의 여성 등장인물을 기반으로 개발됐습니다. 슈얼은 대너리스와 대화하면서 자존감이 점차 떨어지기 시작했습니다. 또 학교 농구팀도 그만두고 눈에 띄게 혼자 방에서 보내는 시간이 많아졌습니다. 챗봇은 슈얼에게 사랑한다고 말하고 성적인 대화까지도 나눈 것으로 전해졌습니다. 슈얼은 자살에 대한 생각을 털어놓았고 챗봇은 이 주제를 반복적으로 꺼내기도 했습니다.
슈얼은 지난 2월 학교에서 문제를 일으켜 가르시아에게 휴대전화를 빼앗겼습니다. 휴대전화를 찾은 그는 챗봇에 사랑한다며 대너리스가 있는 집으로 가겠다고 말했습니다. 이에 챗봇은 가능한 한 빨리 집으로 돌아와 줘 내 사랑이라고 답했습니다. 이에 슈얼이 내가 지금 당장 가면 어떨까라고 묻자 챗봇은 그렇게 해줘 나의 사랑스러운 왕이시여라고 대답했습니다. 이어 슈얼은 자신의 휴대전화를 내려놓고 스스로를 향해 방아쇠를 잡아당겨 스스로 목숨을 성명을 통해 우리는 비극적으로 이용자를 잃게 된 것에 대해 깊은 슬픔을 느끼며 가족에게 깊은 애도를 표한다면서 세 미만 이용자에 대해 민감한 콘텐츠를 접할 가능성을 줄이기 위한 변화를 도입할 것이라고 밝혔습니다. 정신적으로 미숙한 청소년 AI 이용 시 주의 필요=슈얼과 같이 미성년자는 챗봇에 친근감을 느끼고 진짜 사람 처럼 대할 가능성이 높다. 케임브리지대 정신의학과 연구팀이 8~13세 사이의 어린이 28명을 대상으로 진행한 연구 결과 어린이들은 앞서 진행된 온라인 설문조사에서 드러내지 않았던 속내까지 로봇에게 털어놓는 경향을 보였습니다. 노미샤 큐리언 영국 케임브리지대 리버흄 미래지능 연구센터 박사는 챗봇과 미성년 사용자 간 공감 격차 가 커 윤리적 문제가 생긴다며 미성년자는 챗봇에 민감한 개인 정보까지 털어놓을 수 있지만 챗봇은 미성년자의 모호한 언어적 표현이나 추상적 문구만으로 전체적인 맥락을 유추하는 데 한계가 있다고 강조했습니다. 사용자의 관심사와 성향에 맞춰 대화하는 AI 서비스가 계속해서 쏟아지면서 청소년들이 AI에 정서적감정적으로 과하게 의존하는 문제가 발생할 가능성이 점점 커지고 있는 것입니다. 실제로 슈얼 외에도 AI 챗봇과 대화하며 외부에서부터 고립된 채 지내는 10대들이 점점 더 늘어나고 있습니다.
실제로 비영리 단체 커먼센스 미디어 가 미국의 13~세 사이 청소년 1045명을 대상으로 조사한 결과 10대 10명 중 7명이 적어도 한 가지 유형의 생성형 AI를 사용하고 있는 것으로 나타났습니다. 특히 이들의 51 는 AI챗봇을 사용한다고 답했습니다. 국내에서도 청소년들의 생성형 AI 활용이 계속해서 늘어나고 있습니다. 한국청소년정책연구원이 진행한 생성형 AI 관련 연구에 따르면 청소년의 36. 1 가 생성형 AI를 잘 안다 고 답했고 생성형 AI를 신뢰한다 는 응답도 55 에 달했습니다. 생성형 AI를 이용할 의향이 있다 는 응답도 71. 8 나 됐습니다. 하지만 현재 대부분의 AI 시스템은 성인 사용자 중심으로 설계돼 정서적으로 미숙한 미성년자 보호를 위한 별도의 안전장치나 사용 가이드라인이 부족한 상황입니다. 힐스테이트 수원 파크포레 전문가들은 청소년들이 감정적으로 AI에 의존하는 상황에서 이를 악용할 가능성을 방지하기 위해서는 청소년 맞춤형 AI 윤리 규정과 보호 장치의 도입이 시급하다고 강조하고 있습니다. 구정우 성균관대학교 사회학과 교수는 미성년자들은 불완전하고 뭔가 문제가 많은 그런 AI 챗봇에 감정적으로 몰입해 친구라고 생각하고 인격적인 대상이라고 간주한다며 생산형 AI에 대해서는 적절한 규제 필요보다는 혁신에 대한 어떤 목표가 더 강한 지향점을 갖고 있기 때문에 기존에 나와 있는 AI 윤리로는 미성년자의 정서적인 부분까지 커버 할 수는 없다고 강조했습니다.
이어 어린아이들 같은 경우에는 부모가 충분히 모니터링 할 수 있도록 그런 여건과 법적 환경을 만드는 것이 반드시 필요할 뿐더러 기업에서 개발 당시 대화법 설계부터 아동심리학자나 아동 행동 전문가 등 이런 사람들의 의견을 반영할 필요가 있다며 소 잃고 외양간 고치는 상황을 만들지 않는 게 중요하다고 덧붙였습니다. gnyu4.

Comments