OpenAI skandalının ardındaki 'süper zeka' modeli

Tech.co kaynaklarının aktardığına göre, CEO Sam Altman'ın kovulup ardından OpenAI'ye geri dönmesiyle ilgili tartışmalar sürerken, şirket araştırmacılarının yönetim kuruluna gönderdiği ve insanlığa tehdit oluşturabilecek potansiyelde yapay zeka süper zeka modelinin geliştirildiğine dair endişelerini dile getiren bir mektupla ilgili söylentiler ortaya çıktı.

Proje Q*

Şirket içinde Project Q* (Q-star olarak telaffuz edilir) olarak bilinen modelin, OpenAI'nin yapay genel zeka (AGI) arayışında önemli bir atılımı temsil ettiği söyleniyor. AGI, kümülatif öğrenme yeteneğine sahip ve çoğu görevde insanlardan daha iyi performans gösteren, oldukça otonom bir süper zeka dalıdır.

Konuya yakın kaynaklara göre Q*, yapay zekanın muhakeme yeteneklerini kökten iyileştirerek ve OpenAI'yi AGI gelişiminde büyük bir atılıma yaklaştırarak yapay zeka alanında büyük bir sıçramaya işaret edebilir.

Daha önce öğrenilen bilgilere dayanarak yanıt üretme yeteneğine odaklanan mevcut yapay zeka modellerinin aksine, AGI kararlara "akıl" uygulayabilen ve bu sayede insan seviyesinde problem çözme yeteneklerine sahip otonom bir sistemdir.

Yapay zeka henüz tam olarak gerçekleşmemiş olsa da, birçok uzman bu teknolojinin kümülatif öğrenme yeteneğine de sahip olacağına inanıyor; bu da insanlara yeteneklerini geliştirme olanağı veren bir başka özellik.

Bazı kaynaklar, Q* - OpenAI projesinin problemleri çözerken yukarıdaki özellikleri gösterebildiğini iddia ediyor. Dahası, modelin muazzam hesaplama gücü sayesinde Q*, ilkokul öğrencilerini geride bırakarak, mevcut yapay zeka teknolojisinin çok ötesinde muhakeme becerileri ve bilişsel yetenekler sergilemiştir.

Q*'nun ne kadar süredir geliştirilme aşamasında olduğu ve uygulamalarının neler olabileceği belirsiz ancak OpenAI, personel skandalı patlak vermeden önce çalışanları ve yönetim kurulu üyelerini proje hakkında bilgilendirdi.

Etik kaygılar

OpenAI CEO'su Sam Altman, AGI teknolojisinin inovasyonu yönlendireceğinden emin olsa da bazı araştırmacılar projenin potansiyel tehlikelerine dikkat çekmekte gecikmedi.

Araştırmacılar, kurula yazdıkları bir mektupta, bu güçlü algoritmanın insanlık için potansiyel tehlikeleri konusunda uyardılar. Mektupta yapay zeka ile ilgili belirtilen belirli etik kaygılar açıklanmadı, ancak uyarılar kurulun Altman'ı görevden alma kararını haklı çıkarmaya yetti.

Bu arada, Altman'ın işten çıkarılmasının ilk gerekçesi, CEO'nun "iletişiminin zayıf olması"ydı. Kısa süre sonra Microsoft'ta yeni bir pozisyon buldu. Bu durum, OpenAI'nin 770 çalışanından 700'ünün, CEO işe iade edilmezse aynı şeyi yapacakları tehdidinde bulunmasına yol açtı.

Şirketin çökme tehlikesiyle karşı karşıya kalmasıyla birlikte OpenAI'nin yönetim kurulu, Altman'ı tekrar en üst göreve getirmek zorunda kaldı. Bu durum aynı zamanda şirketin yönetici ekibinde büyük bir revizyona yol açtı ve liderlik içindeki derin bölünmeleri gözler önüne serdi.

Altman'ın göreve geri dönmesi ve Project Q*'nun tekrar onay almasıyla birlikte yeni sorular ortaya çıkıyor.

Proje Q* ne kadar gerçekçi?

OpenAI'daki çalkantılı günler AGI kavramını gündeme getirmiş olsa da, Altman'ın bu teknolojiden ilk kez bahsetmesi değil.

Silikon Vadisi girişimcisi, AGI'yi "iş arkadaşı olarak işe alabileceğiniz ortalama bir insana" benzettikten sonra Eylül ayında kendini zor durumda buldu. Geçtiğimiz yıl yapay zekanın "uzaktan bir iş arkadaşınızla yapabileceğiniz her şeyi yapabileceği" yönündeki yorumlarının devamını getirdi; bunlara doktor olmayı ve iyi bir programcı olmayı öğretmek de dahildi.

Yapay zekâyı (AI) "ortalama bir insanın" zekâsıyla karşılaştırmak yeni bir şey değil; ancak Altman'ın bu ifadeyi kullanması, yapay zekânın iş güvenliği üzerindeki etkisiyle ilgili endişelerin artması nedeniyle yapay zekâ etiği uzmanı ve Cambridge Üniversitesi profesörü Henry Shevlin tarafından "iğrenç" olarak değerlendirildi.

Yapay zekâdaki (AGI) potansiyel atılımlar, diğer araştırmacılar için de alarm zillerini çalıyor; teknolojinin, insanların etkisini tam olarak kavrayabileceğinden daha hızlı geliştirildiği uyarısı yapılıyor.

OpenAI, Yapay Zeka'nın (AGI) olumlu sonuçlarının, riskli "mayın tarlasını" takip etmeye değer kıldığına inanıyor. Ancak şirket bu yönde ilerlemeye devam ettikçe, birçok kişi Altman'ın ticari başarıyı kullanıcıların ve toplumun çıkarlarından daha öncelikli tuttuğundan endişe ediyor.

Phuong Anh (Kaynak: Tech.co, The Guardian)

[reklam_2]
Kaynak