Tech.co 소식통에 따르면, 샘 알트먼 CEO가 해고된 후 OpenAI로 복귀한다는 논란이 일고 있는 가운데, 해당 회사 연구원들이 이사회에 보낸 편지에 대한 소문이 돌았습니다. 편지에는 인류에게 잠재적으로 위협이 될 수 있는 AI 초지능 모델에 대한 우려를 표명했습니다.
(삽화)
프로젝트 Q*
OpenAI 내부에서 프로젝트 Q*(발음은 Q-스타)로 알려진 이 모델은 인공 일반 지능(AGI)을 추구하는 OpenAI의 노력에 있어 중요한 돌파구를 나타낸다고 합니다. 인공 일반 지능은 누적 학습이 가능하고 대부분 작업에서 인간보다 우수한 성과를 낼 수 있는 고도로 자율적인 초지능 분야입니다.
이 문제에 정통한 소식통에 따르면, Q*는 AI의 추론 능력을 근본적으로 개선하고 OpenAI를 AGI 개발의 주요 혁신에 한 걸음 더 가까이 다가가게 함으로써 인공지능 분야에서 큰 도약을 이룰 수 있다고 합니다.
기존 AI 모델이 이전에 학습한 정보를 기반으로 응답을 생성하는 능력에 초점을 맞춘 것과 달리, AGI는 의사결정에 '이성'을 적용할 수 있는 자율 시스템으로, 인간 수준의 문제 해결 역량을 제공합니다.
AGI가 아직 완전히 실현되지는 않았지만, 많은 전문가들은 이 기술이 누적적으로 학습하는 능력을 갖게 될 것이라고 믿고 있는데, 이는 인간이 자신의 능력을 향상시킬 수 있는 또 다른 특성입니다.
일부 자료에 따르면, Q* - OpenAI 프로젝트는 문제 해결 시 위의 특성을 입증할 수 있었습니다. 뿐만 아니라, 이 모델의 엄청난 연산 능력 덕분에 Q*는 초등학생들을 능가하는 성과를 거두었으며, 현재 AI 기술의 역량을 크게 뛰어넘는 추론 능력과 인지 능력을 보여주었습니다.
Q*가 개발된 지 얼마나 되었는지, 그리고 어떤 분야에 적용될지는 불확실하지만, OpenAI는 인사 스캔들이 터지기 전에 직원과 이사회 구성원들에게 이 프로젝트에 대해 알렸습니다.
윤리적 문제
OpenAI의 CEO인 샘 알트먼은 AGI 기술이 혁신을 주도할 것이라고 확신하지만, 일부 연구자들은 이 프로젝트의 잠재적 위험을 지적하고 있습니다.
이사회에 보낸 서한에서 연구진은 이 강력한 알고리즘이 인류에게 미칠 수 있는 잠재적 위험에 대해 경고했습니다. 서한에 명시된 AI에 대한 구체적인 윤리적 우려 사항은 공개되지 않았지만, 이러한 경고만으로도 이사회가 알트먼을 해고하기로 결정한 것을 정당화하기에 충분했습니다.
한편, 알트만 해고의 당초 이유는 CEO의 "소통이 원활하지 않았다"는 것이었습니다. 그는 곧 마이크로소프트에서 새로운 직책을 찾았습니다. 이 사건으로 인해 OpenAI 직원 770명 중 700명이 CEO가 복직되지 않으면 같은 조치를 취하겠다고 위협했습니다.
회사가 붕괴 위기에 처하자 OpenAI의 이사회는 알트만을 다시 최고위직에 복귀시켜야 했습니다. 이로 인해 회사 경영진이 대대적으로 개편되었고, 리더십 내부의 깊은 분열이 드러났습니다.
이제 알트만이 복귀하고 프로젝트 Q*가 다시 승인을 받을 가능성이 높아지면서 새로운 의문이 제기되고 있습니다.
프로젝트 Q*는 얼마나 현실적입니까?
OpenAI에서 격동의 시기를 보내면서 AGI라는 개념이 주목을 받게 되었지만, 알트만이 이 기술을 언급한 것은 처음이 아닙니다.
실리콘 밸리의 한 기업가는 9월, AGI를 "동료로 고용할 만한 평범한 인간"에 비유하며 곤경에 처했습니다. 그는 작년에 AI가 "원격 동료와 함께라면 무엇이든 할 수 있다"고 했던 발언을 다시 언급하며, 의사나 훌륭한 프로그래머가 되는 법을 배우는 것도 그 중 하나라고 말했습니다.
AGI를 "평균적인 인간"의 지능에 비교하는 것은 새로운 일이 아니지만, AI 윤리학자이자 케임브리지 대학교 교수인 헨리 셰블린은 AI가 직업 안정에 미치는 영향에 대한 우려가 커지면서 알트만이 이 표현을 사용한 것을 "혐오스러운" 것으로 여겼습니다.
AGI 분야의 잠재적 혁신은 다른 연구자들에게도 경각심을 불러일으키고 있습니다. 이 기술은 인간이 그 영향을 완전히 이해할 수 있는 속도보다 더 빠르게 개발되고 있기 때문입니다.
OpenAI는 AGI의 긍정적인 결과가 위험한 "지뢰밭"을 탐험할 만한 가치가 있다고 믿습니다. 그러나 회사가 이러한 방향으로 계속 나아가면서, 많은 사람들은 알트만이 사용자와 사회의 이익보다 상업적 성공을 우선시하고 있다는 우려를 표합니다.
Phuong Anh (출처: Tech.co, The Guardian)
[광고_2]
원천
댓글 (0)