구글, 군사적 목적으로 AI 사용하지 않겠다는 약속 철회

구글 모회사 알파벳은 AI 원칙에 대한 새로운 업데이트를 통해 향후 AI 활용 계획을 발표했습니다. 특히, AI를 무기, 감시 도구, 또는 "광범위한 피해를 초래할 수 있는 기술" 개발에 사용하지 않겠다는 약속을 철회했습니다.

AI에 대한 구글의 레드라인

구글의 AI 레드라인이라는 용어는 2018년, 직원들이 미 국방부 와 협력하여 진행 중이던 구글의 AI 프로젝트 메이븐(Maven)에 항의하면서 처음 등장했습니다. 당시 4천 명이 넘는 구글 직원들이 프로젝트를 중단하고 회사가 "전쟁을 위한 기술을 개발하지 말 것"을 요구하는 청원에 서명했습니다.

구글은 이후 펜타곤을 위한 AI 도구 개발 계약을 갱신하지 않았습니다. 또한 구글은 무기 및 국제적으로 인정된 규범을 위반하는 감시 목적으로 정보를 수집하거나 사용하는 기술을 포함한 AI의 "비준수적 적용" 또한 사용하지 않겠다고 선언하며 레드라인을 그었습니다. 공공의 이익을 해치거나 해칠 가능성이 있거나, 널리 인정된 국제법 및 인권 원칙을 위반하는 기술 또한 사용하지 않을 것입니다.

iPhone의 일부 Google 앱

무기를 사용하는 AI에 대한 금지선을 그은 결정으로 인해 구글은 아마존과 마이크로소프트를 포함한 다른 기술 대기업이 체결한 군사 협정에 참여하지 못했습니다.

그러나 AI 경쟁에 이처럼 큰 변화가 일어나자 구글은 약속을 철회하기로 결정했습니다. 이는 구글 내부뿐만 아니라 실리콘 밸리 기술 기업들의 방위 산업에 대한 중요한 변화를 보여주는 사례이기도 합니다.

구글은 내부적으로 분열되어 있습니다

비즈니스 인사이더 에 따르면, AI 원칙 및 윤리에 대한 업데이트는 구글 직원들의 강한 반발을 불러일으켰습니다. 직원들은 사내 게시판에 불만을 표출했습니다. CEO 순다르 피차이가 구글 검색 엔진에 "무기 계약자가 되는 방법"이라는 질문을 검색하는 모습이 담긴 밈(meme)이 큰 관심을 받았습니다.

또 다른 직원은 "무기 및 감시용 AI 금지를 해제한 우리가 악당인가요?"라는 밈을 만들었습니다. 이 회사에는 18만 명이 넘는 직원이 있습니다. 구글이 미국 정부 및 군과 방위 산업 고객들과 더욱 긴밀히 협력하기로 한 결정을 지지하는 목소리도 여전히 있을 수 있습니다.

구글의 추론

구글 대변인은 "AI 약속" 철회에 대한 논평 요청에 즉시 응답하지 않았습니다. 그러나 AI 부문 책임자인 데미스 하사비스는 변화하는 세상에서 지침이 진화하고 있으며 AI가 "국가 안보를 보호할 것"이라고 말했습니다.

구글의 기술 및 사회 담당 수석 부사장인 하사비스와 제임스 마니카는 회사 블로그 게시물에서 AI 분야에서 선두를 차지하기 위한 글로벌 경쟁이 치열해짐에 따라 구글은 AI가 자유, 평등, 인권 존중에 따라 이끌어져야 한다고 믿는다고 밝혔습니다.

그들은 "기업, 정부, 조직이 가치를 공유하고 사람들을 보호하고, 세계적 성장을 촉진하고, 국가 안보를 지원할 수 있는 AI를 만들기 위해 함께 노력해야 한다고 믿는다"고 덧붙였다.

두 명의 구글 임원은 수십억 명의 사람들이 일상생활에서 AI를 사용하고 있다고 말했습니다. 인공지능은 이제 수많은 조직과 개인이 애플리케이션을 구축하는 플랫폼이자 범용 기술이 되었습니다. AI는 실험실의 틈새 연구 주제에서 휴대전화와 인터넷처럼 어디에나 존재하는 기술로 발전했습니다. 따라서 2018년 구글이 발표한 "AI 선서"도 이에 맞춰 개정되어야 합니다.

알파벳은 내년에 750억 달러를 지출할 계획이며, 이는 주로 AI 역량과 인프라 구축에 사용될 것이라고 밝혔습니다.

출처: https://thanhnien.vn/google-rut-lai-loi-hua-khong-dung-ai-cho-quan-su-185250206161804981.htm