AI 챗봇, 어린이에게 위험, 개발자 규제 촉구

[광고1]

일본의 기시다 후미오 총리는 G7 그룹에 인공지능(AI) 개발자를 규제하는 계획을 제안할 것이라고 말했습니다.

이 규칙의 목적은 AI가 생성한 이미지와 정보와 알고리즘이 생성하지 않은 이미지와 정보를 구별하도록 대중의 인식을 높여 잘못된 정보의 확산을 방지하는 것입니다.

이 지침은 이르면 올 가을 세계 7대 경제국(G7)의 가상 회의에서 제안될 것으로 예상된다.

스냅(Snap Inc.)은 AI 챗봇을 출시하면서 어린이의 데이터 개인정보 보호 위험을 적절하고 정확하게 평가하지 못했다는 비난을 받았습니다.

보고서는 일본이 AI가 생성하는 복잡한 이미지와 정보에 대해 우려하고 있으며, 이는 대중을 혼란스럽게 하고 경제적 안정을 위협할 수 있다고 밝혔다.

한편, 영국 데이터 감시 기관은 AI 챗봇이 어린이의 개인 정보 보호 위험을 초래할 수 있다고 밝혔는데, 이번 사례는 미국 기술 회사 스냅챗이 개발한 "My AI" 챗봇입니다.

당국은 스냅챗이 4월에 출시한 AI 챗봇으로 인해 어린이의 개인정보 보호 위험이 발생할 수 있다는 점을 제대로 평가하지 못했을 가능성이 있다고 밝혔습니다. 정보위원회 사무국(ICO)은 미국 기업이 규제 기관의 우려 사항을 적절히 해결하지 못할 경우, 전국적으로 AI 애플리케이션을 금지하는 것을 고려할 것이라고 밝혔습니다.

ICO는 "조사의 초기 결과에 따르면 Snap은 AI 애플리케이션을 출시하기 전에 어린이와 다른 사용자의 개인 정보 위험을 적절하고 정확하게 평가하지 못한 것으로 나타났습니다."라고 밝혔습니다.

그러나 규제 기관의 성명은 영국의 젊은이들에게 널리 사용되는 메시징 앱인 스냅챗이 데이터 보호법을 위반했다는 것을 의미하지는 않습니다.

스냅은 ICO 발표를 검토 중이며 사용자 개인 정보를 보호하는 데 최선을 다하고 있다고 밝혔습니다. 미국의 기술 회사는 "우리의 AI는 대중에게 공개되기 전에 엄격한 개인 정보 보호 및 법적 검토 절차를 거칩니다."라고 말했습니다. "우리는 ICO와 건설적으로 협력하여 위험 평가 프로세스에 대한 우려를 해소하기 위해 계속 노력할 것입니다."

ICO는 "My AI"가 13~17세 아동을 포함한 영국 내 약 2,100만 명의 Snapchat 사용자의 개인 데이터를 어떻게 처리했는지 조사하고 있습니다.

스냅챗이 개발한 이 앱은 OpenAI의 ChatGPT로 구동됩니다. ChatGPT는 전 세계 정책 입안자들이 개인정보 보호 및 안전 문제로 인해 규제를 모색하고 있는 생성 AI의 가장 유명한 사례입니다.

스냅챗을 포함한 소셜 미디어 네트워크에서는 사용자 연령을 13세 이상으로 제한하고 있지만, 미성년자의 플랫폼 사용을 막는 데 항상 성공적이지는 않았습니다.

이전에 2023년 8월에 Reuters는 규제 당국이 메시징 앱이 실제로 미성년 사용자를 플랫폼에서 제거하고 있는지 확인하기 위해 정보를 수집하고 있다고 보도했습니다.

(블룸버그, 로이터에 따르면)