Model „superinteligence“ stojící za skandálem OpenAI

Podle zdrojů Tech.co se v době, kdy probíhala kontroverze ohledně odvolání generálního ředitele Sama Altmana a jeho následného návratu do OpenAI, šířily fámy o dopise, který výzkumníci společnosti zaslali představenstvu, v němž vyjádřili obavy z vyvíjeného modelu superinteligence umělé inteligence, jenž by mohl potenciálně představovat hrozbu pro lidstvo.

Projekt Q*

Model, interně známý jako Project Q* (vyslovuje se Q-star), údajně představuje zásadní průlom ve snaze OpenAI o vytvoření obecné umělé inteligence (AGI) – vysoce autonomní větve superinteligence schopné kumulativního učení a překonávání lidí ve většině úkolů.

Podle lidí obeznámených s touto problematikou by Q* mohl znamenat velký skok vpřed v oblasti umělé inteligence tím, že radikálně zlepší schopnosti umělé inteligence v oblasti uvažování a přiblíží OpenAI k zásadnímu průlomu ve vývoji AGI.

Na rozdíl od současných modelů umělé inteligence, které se zaměřují na schopnost generovat odpovědi na základě dříve získaných informací, je AGI autonomní systém, který dokáže aplikovat „rozum“ na rozhodnutí, což mu dává schopnosti řešit problémy na lidské úrovni.

Ačkoli AGI ještě není plně realizována, mnoho odborníků se domnívá, že tato technologie bude mít také schopnost učit se kumulativně, což je další vlastnost, která lidem dává možnost zlepšovat své schopnosti.

Některé zdroje tvrdí, že Q* - projekt OpenAI, dokázal prokázat výše uvedené vlastnosti při řešení problémů. Nejen to, díky obrovskému výpočetnímu výkonu modelu dokázal Q* překonat žáky základních škol a prokázat logické uvažování a kognitivní schopnosti výrazně přesahující možnosti současné technologie umělé inteligence.

Není jasné, jak dlouho se Q* vyvíjí a jaké by mohly být jeho aplikace, ale OpenAI informovala zaměstnance a členy představenstva o projektu ještě před vypuknutím personálního skandálu.

Etické obavy

Zatímco generální ředitel společnosti OpenAI Sam Altman je přesvědčen, že technologie AGI bude hnací silou inovací, někteří výzkumníci rychle poukázali na potenciální nebezpečí projektu.

V dopise radě vědci varovali před potenciálním nebezpečím tohoto mocného algoritmu pro lidstvo. Konkrétní etické obavy týkající se umělé inteligence uvedené v dopise nebyly zveřejněny, ale varování stačila k ospravedlnění rozhodnutí rady Altmana propustit.

Mezitím byl původním důvodem pro Altmanovo propuštění „špatná komunikace generálního ředitele“. Brzy si našel novou pozici v Microsoftu. Tento krok přiměl 700 ze 770 zaměstnanců OpenAI pohrozit, že udělají totéž, pokud generální ředitel nebude znovu jmenován.

Vzhledem k tomu, že společnosti hrozil kolaps, byla správní rada OpenAI nucena znovu dosadit Altmana do nejvyšší pozice – což také vedlo k zásadní revizi výkonného týmu společnosti a zdůraznilo hluboké rozpory v jejím vedení.

Nyní, když je Altman zpět ve funkci a Projekt Q* pravděpodobně znovu dostane zelenou, vyvolává to nové otázky.

Jak realistický je Projekt Q*?

Přestože bouřlivé dny v OpenAI dostaly koncept AGI do centra pozornosti, není to poprvé, co Altman tuto technologii zmiňuje.

Tento podnikatel ze Silicon Valley se v září ocitl v těžké situaci poté, co přirovnal AGI k „průměrnému člověku, kterého byste si mohli najmout jako kolegu“. Navázal tak na své loňské komentáře o tom, jak umělá inteligence může „dokázat cokoli, co byste mohli dělat se vzdáleným kolegou“, včetně toho, že se může naučit být lékařem a dobrým programátorem.

I když srovnání AUI s inteligencí „průměrného člověka“ není nic nového, Altmanovo použití této fráze bylo etikem umělé inteligence a profesorem Cambridgeské univerzity Henrym Shevlinem označeno za „odporné“, jelikož obavy ohledně dopadu umělé inteligence na jistotu zaměstnání narůstají.

Potenciální průlomy v oblasti AGI jsou také varovným signálem pro další výzkumníky – technologie se vyvíjí rychleji, než si lidé dokážou plně uvědomit její dopad.

OpenAI věří, že pozitivní výsledky AGI činí toto riskantní „minové pole“ hodnotným krokem. Společnost se však tímto směrem nadále posouvá vpřed, a proto se mnozí obávají, že Altman upřednostňuje komerční úspěch před zájmy uživatelů a společnosti.

Phuong Anh (zdroj: Tech.co, The Guardian)

Zdroj