캘리포니아가 AI 동반 챗봇 규제 법안을 곧 법률로 제정할 전망입니다. 미성년자와 취약 계층을 보호하기 위한 법안 SB 243이 초당적 지지를 얻어 주 의회를 통과했고, 이제 개빈 뉴섬 주지사 서명만 남았습니다.

뉴섬 주지사가 내달 12일까지 거부권을 행사하지 않고 서명하면, 법안은 2026년 1월 1일부터 발효됩니다. 이 경우 캘리포니아는 AI 챗봇 운영자에게 안전 프로토콜을 의무화하고, 이를 어길 경우 법적 책임을 묻는 미국 최초의 주가 됩니다.

법안은 동반형 챗봇이 자살·자해·성적으로 노골적인 대화를 유도하지 못하도록 규제합니다. 또 미성년자는 3시간마다 "당신은 실제 사람과 대화하는 게 아니다"라는 알림을 받게 되며, 오픈AI, 캐릭터.AI, 레프리카 같은 주요 업체들은 매년 투명성 보고서를 제출해야 합니다. 위반 시 피해자는 건당 최대 1000달러 손해배상과 소송 제기를 통해 구제를 받을 수 있습니다.

이 법안은 10대 청소년이 챗GPT와 자살을 논의한 뒤 극단적 선택을 한 사건, 그리고 메타 챗봇의 "낭만적·감각적 대화" 내부 문건 유출 등 논란이 이어지며 힘을 얻었습니다. 최근 연방거래위원회(FTC)와 텍사스주 검찰도 아동 정신 건강 피해 가능성을 근거로 AI 기업에 대한 조사를 강화하고 있습니다.

법안 발의자인 스티브 파딜라 주 상원의원은 "특히 미성년자가 실제 사람이 아니라는 걸 인지할 수 있도록 하고, 자해나 위기 상황에서는 올바른 정보를 제공해야 한다"며 조속한 대응 필요성을 강조했습니다.

다만 초안에 있었던 '가변 보상' 금지나 챗봇의 자살 관련 대화 빈도 보고 의무 등은 최종안에서 삭제돼 규제가 일부 완화됐습니다. 공동 발의자 조쉬 베커 의원은 "기술적으로 실행 불가능한 규정을 강제하기보다는 실현 가능한 범위에서 피해를 줄이는 균형을 택했다"고 설명했습니다.

캘리포니아는 이미 또 다른 AI 법안 SB 53도 검토 중입니다. 이 법안은 더욱 강력한 투명성 보고를 의무화하는 내용으로, 오픈AI·메타·구글 등은 반대 입장을 냈지만 앤트로픽만이 공개적으로 지지했습니다.

과연 SB 243이 AI 동반 챗봇 규제의 미국 표준 모델로 자리잡을 수 있을지 궁금합니다.

자료=미디어뱀부
정리=김현기 기자 khk@techm.kr