챗봇 Grok이 인터넷에서 잘못된 정보의 급증을 초래하고 있다는 우려

일론 머스크의 Grok 챗봇은 사용자가 텍스트에서 AI 이미지를 만들어 X에 게시할 수 있도록 허용하기 시작했습니다. 여기에는 전 미국 대통령 도널드 트럼프, 미국 부통령 카말라 해리스와 같은 정치인 의 가짜 이미지가 포함됩니다...

다른 주류 AI 사진 촬영 도구와 달리 머스크의 그록은 규제가 적은 것으로 보입니다. 예를 들어 CNN 의 테스트에서 그록은 정치인들의 가짜 이미지를 쉽게 만들어 유권자들을 오도했습니다.

chatbox Grok이 만든 일론 머스크 이미지. (출처: CNN)

일부 X 사용자는 Grok이 만든 이미지를 게시하기도 했습니다. 여기에는 유명인이 마약을 피우는 모습, 만화 캐릭터가 사람을 죽이는 모습, 비키니를 입은 여성의 성적 이미지가 포함되었습니다.

CNN 에 따르면, 그록은 AI가 인터넷에서 잘못된 정보가 폭발적으로 확산될 수 있다는 우려를 더욱 제기했습니다. 특히 미국 대선이 다가옴에 따라 더욱 그렇습니다.

국회의원, 활동가 단체, 기술 분야 리더들은 이러한 도구를 오용하면 유권자들에게 혼란과 혼돈을 초래할 수 있다는 경고를 했습니다.

세계 유수의 AI 기업 중 다수는 AI 기반 이미지 생성 도구를 이용해 정치적 허위 정보를 만드는 것을 방지하기 위한 정책을 시행했지만, 연구자들은 사용자들이 때때로 규칙을 우회하는 방법을 찾는다는 사실을 발견했습니다.

OpenAI, Meta, Microsoft 등 여러 회사는 기술이나 레이블을 사용하여 시청자가 어떤 이미지가 AI에 의해 생성되었는지 알 수 있도록 돕습니다.

YouTube, TikTok, Instagram, Facebook 등의 소셜 네트워크도 사용자 피드에 있는 AI가 생성한 콘텐츠에 라벨을 붙여, 기술을 사용해 직접 감지하거나 사용자에게 게시한 시점을 식별하도록 요청합니다.

8월 16일, AI가 Grok에 몇 가지 제약을 가하는 듯했습니다. 이제 해당 도구는 정치 후보나 폭력 행위를 저지르는 인기 만화 캐릭터의 이미지를 생성하는 것을 거부합니다.

출처: https://baoquocte.vn/lo-ngai-chatbot-grok-lam-bung-no-thong-tin-sai-su-that-tren-internet-283068.html