[2221001] 자살예방 및 생명존중문화 조성을 위한 법률 일부개정법률안 안상훈의원 등 10인 제안이유 및 주요내용 최근 10대 청소년이 챗봇을 통한 상담 도중 자살한 사건이 미국에서 발생하였는데, 이는 챗봇 등 생성형 인공지능이 우울ㆍ불안 등을 겪는 사람에게 정신적 도움을 주기 보다는 오히려 자살심리를 유도하여 자살위...
대표발의: 안상훈 (국민의힘) 외 9명
생성형 AI 챗봇 사용 중 자살 위험 신호를 즉시 감지하여 전문 상담 기관으로 연계하는 법적 의무 신설
'자살 관련 내용'의 모호한 정의와 AI의 오인식(False Positive)으로 인한 과도한 개입 또는 프라이버시 침해 우려
해외 사례 1건 분석
본 법률안은 생성형 AI 챗봇이 정신건강 취약계층에게 미칠 수 있는 부정적 영향을 차단하고, 위기 상황에서 적시에 전문가 개입을 유도하기 위해 AI 사업자에게 안전조치 의무를 부과하는 것을 골자로 합니다. 특히 미국...
26/40점|생활체감 6경제성 5형평성 8지속성 7
본 개정안은 AI 기반 정신건강 지원의 필요성을 인식하고 이용자 보호 장치를 마련했다는 점에서 긍정적이으나, 의무 부과 범위의 명확성과 기술적 실행 가능성, 그리고 프라이버시 보호 측면에서 추가적인 검토가 필요합니다...