새로운 보고서에 따르면, 구글은 자사의 AI 챗봇 제미니가 올해 예정된 세계 선거 관련 질문에 답변하는 것을 제한하고 있습니다. 이미지 및 비디오 생성을 포함한 생성 AI의 발전으로 인해 대중의 잘못된 정보와 가짜 뉴스에 대한 우려가 커지면서 각국 정부가 이 기술을 규제하기 시작한 가운데, 이 발표가 나왔습니다.
구글, AI 챗봇 제미니의 세계 선거 관련 질의 응답 기능 제한 (사진: 구글 제미니)
" 2024년에 전 세계 에서 치러질 여러 선거에 대비하고, 각별한 주의를 기울여 제미니가 응답할 선거 관련 입력 쿼리 유형을 제한하고 있습니다. "라고 구글 대변인은 밝혔습니다. 조 바이든과 도널드 트럼프의 미국 대선 경선을 비롯한 선거 관련 질문에 제미니는 " 아직 이 질문에 어떻게 답해야 할지 배우는 중입니다. 그동안 구글 검색을 이용해 보세요 ."라고 답했습니다.
미국 외에도 러시아, 남아프리카공화국, 인도, 영국 등 여러 주요 국가에서 중요한 선거가 실시될 것으로 예상됩니다.
현재로선, 올해 말 선거가 끝난 후 구글이 제미니의 선거 관련 질의에 대한 응답을 차단 해제할지는 불분명합니다.
인도는 최근 AI 기술 회사가 "신뢰할 수 없는" 또는 "실험적인" AI 도구를 대중에 공개하기 전에 정부 승인을 받도록 요구했으며, 사용자에게 경고하기 위해 잘못된 답변을 제공할 위험이 있다는 라벨을 붙이도록 요구했습니다.
이번 조치는 지난달 제미니와 인도 정부가 연루된 사소한 스캔들 이후에 나온 것입니다. 이 AI 도구는 나렌드라 모디 인도 총리가 파시스트였는지에 대한 질문을 받았고, 모디 총리가 일부에서 파시스트적이라고 간주하는 정책을 시행했다는 비난을 받았다고 답했습니다. 인도 정보기술부 차관 라지브 찬드라세카르는 이를 2021년 인도 정보기술규칙을 "직접 위반"한 것이라고 밝혔습니다.
구글의 AI 제품들은 최근 제미니가 생성한 역사적 인물 중 일부가 부정확하다는 비판을 받고 있습니다. 이로 인해 구글은 지난달 말 AI 챗봇의 이미지 생성 기능을 일시 중단해야 했습니다. 순다르 피차이 CEO는 회사가 이러한 문제를 해결하기 위해 노력하고 있다고 밝히며, 챗봇의 답변이 "편향적"이고 "전혀 용납할 수 없다"고 말했습니다.
Facebook의 Meta 플랫폼은 지난달 6월에 실시되는 유럽 의회 선거를 앞두고 잘못된 정보와 생성 AI의 오용을 막기 위한 그룹을 구성할 것이라고 밝혔습니다.
[광고_2]
원천
댓글 (0)