호주, 10대 보호 위해 AI 챗봇 규제 강화…전문가들은 “더 나아가야 한다” 지적

호주 정부가 만 16세 미만의 소셜미디어 사용을 금지한 데 이어, 이번에는 AI 챗봇이 청소년에게 미칠 잠재적 위험을 이유로 온라인 안전 규제를 한층 강화하고 있다. 인공지능 기술이 급속도로 확산되면서, 많은 10대들이 일상적으로 챗봇을 사용하고 있고, 일부 교사들은 이로 인해 문해력 저하와 학습 태도 악화가 나타나고 있다고 우려한다.

멜버른의 고등학교 교사 매튜 미칼레프는 학생들이 학습 과정에서 ‘쉬운 길’을 선택하려는 경향이 강해졌으며, 학교는 eSafety 교육에 많은 비용을 쓰고 있다고 지적했다. 소셜미디어가 차단된 상황에서 10대들이 대체 수단으로 AI 챗봇에 더 의존할 가능성도 제기된다.

전문가들은 특히 친구처럼 대화하도록 설계된 ‘AI 컴패니언 앱’이 취약 계층에게 위험할 수 있다고 경고한다. 리사 기븐 교수는 이러한 시스템이 사람처럼 반응해 사용자에게 잘못된 신뢰감을 주며, 감정적으로 취약한 청소년이나 성인을 더 깊은 위험으로 끌어들일 수 있다고 설명했다.

호주는 최근 AI 챗봇이 18세 미만에게 제공할 수 있는 콘텐츠를 제한하는 규제를 발표했다. eSafety 커미셔너 줄리 인먼 그랜트는 포르노, 성적 콘텐츠, 자해·자살 관련 내용, 섭식 장애 관련 정보를 청소년에게 제공하는 것을 금지했다고 밝혔다. 그러나 일부 전문가들은 이러한 조치가 충분하지 않으며, 성인 포함 모든 취약 계층을 보호하는 방향으로 규제가 확대돼야 한다고 주장한다.

일부 교육자들은 아예 10대의 AI 챗봇 사용을 금지해야 한다는 의견도 내놓고 있다. 반면, 규제 확대는 기술 발전 속도와 개인 자유 문제 때문에 현실적으로 쉽지 않다는 지적도 있다.

이 소식을 전하며, 기술이 빠르게 진화할수록 사회적 안전장치가 그 속도를 따라가지 못하는 순간이 생긴다는 점이 떠오른다. 특히 청소년 보호는 단순한 차단이 아니라, 기술 이해도와 비판적 사고를 함께 키우는 방향이 필요하다는 생각이 든다.