Je jasné, že jsme v počátečních fázích umělé inteligence (AI) pomocí chatbotů, jako je ChatGPT, kteří jsou poháněni velkými jazykovými modely (LLM). Umělá inteligence se však neomezuje pouze na chatboty. Agenti AI, AGI a Superinteligence jsou další paradigmata éry AI, kterých se chystáme být svědky. V tomto článku tedy vysvětluji, co je superinteligence a jak může bezpečná superinteligence chránit lidstvo před výkonnými systémy umělé inteligence.
Co je superinteligence?
Jak název napovídá, superinteligence je forma inteligence, která daleko předčí ty nejchytřejší a nejdůmyslnější lidské mysli ve všech oblastech. Má znalosti, dovednosti a kreativitu, řádově vyšší než biologičtí lidé.
Mějte na paměti, že superinteligence je hypotetický koncept, kde systémy AI získávají vynikající kognitivní schopnosti, které přesahují lidské schopnosti. Dokáže odemknout nová paradigmata ve vědeckém objevování, řešit problémy, které po staletí zpochybňují lidskou mysl, myslet a uvažovat mnohem rychleji než lidé a paralelně provádět akce.
Často se říká, že superinteligence bude ještě schopnější než AGI — umělá všeobecná inteligence. David Chalmers, kognitivní vědec, říká, že AGI postupně povede k superinteligenci. Systém AGI může odpovídat schopnostem lidí v uvažování, učení a porozumění. Superinteligence však může jít dál a převyšuje lidskou inteligenci ve všech aspektech.
V květnu 2023 OpenAI sdílené jeho vize superinteligence a toho, jak může být řízena v budoucnosti. Blog, který napsali Sam Altman, Greg Brockman a Ilya Sutskever, uvádí, že „je možné, že během příštích deseti let překročí systémy umělé inteligence úroveň odborných dovedností ve většině domén a budou vykonávat tolik produktivní činnosti jako jedna ze současných největších korporací.“
Důsledky a rizika superinteligence
Vzhledem k tomu, že superinteligence může překonat lidské schopnosti, existuje mnoho rizik spojených s touto technologií. Nick Bostrom, prominentní myslitel tvrdí, že existuje existenční riziko pro lidstvo, pokud Superinteligence není v souladu s lidskými hodnotami a zájmy. Může to vést k nepředstavitelným výsledkům pro lidskou společnost, což může vést k lidskému vyhynutí.
Kromě toho Bostrom také vyvolává otázky o etických otázkách týkajících se vytváření a používání superinteligentních systémů. Co se stane s právy jednotlivce, kdo je bude kontrolovat a jaký to bude mít dopad na společnost a blahobyt? Jakmile je takový systém vyvinut, existuje vysoká šance, že se bude moci vyhnout lidským pokusům o kontrolu nebo omezení svých akcí.
Nejen to, Superalignment může vést k „Intelligence Explosion“, což je termín vytvořený britským matematikem IJ Goodem v roce 1965. Teoretizoval, že sebezdokonalující se inteligentní systém může navrhnout a vytvořit ještě výkonnější inteligentní systémy vedoucí k explozi inteligence. V takovém scénáři mohou následovat nezamýšlené důsledky, které mohou být pro lidstvo škodlivé.
Jak může bezpečná superinteligence pomoci?
Mnoho teoretiků umělé inteligence tvrdilo, že zkrocení a ovládání superinteligentního systému bude vyžadovat přísné sladění s lidskými hodnotami. Takový systém musí být nastaven tak, aby správně a zodpovědně interpretoval a prováděl akce.
Ilya Sutskever, spoluzakladatel OpenAI a bývalý spoluvedoucí projektu Superalignment ve společnosti, se pustil do práce na sladění výkonných systémů umělé inteligence. V květnu 2024 však Sutskever opustil OpenAI spolu s Janem Leikem, vedoucím superalignmentu ve společnosti.
Leike tvrdil, že „kultura bezpečnosti a procesy ustoupily do pozadí lesklých produktů.“ Nyní se připojil k Anthropic, konkurenční laboratoři AI. Na druhou stranu Sutskever oznámil novou společnost s názvem Safe Superintelligence Inc. (SSI), jejímž cílem je vytvořit bezpečný superinteligentní systém. SSI říká, že je to „nejdůležitější technický problém naší doby.“
Společnost vedená Sutskeverem chce pracovat výhradně na dosažení bezpečné superinteligence, aniž by se musela zapojit do řízení nebo produktových cyklů. Během práce v OpenAI poskytl Sutskever rozhovor pro The Guardian, kde zdůraznil potenciální rizika a výhody výkonných systémů umělé inteligence.
Sutskever říká: „Umělá inteligence je dvousečná zbraň: má potenciál vyřešit mnoho našich problémů, ale také vytváří nové.„Tvrdí, že“budoucnost bude pro AI dobrá bez ohledu na to, ale bylo by hezké, kdyby byla dobrá i pro lidi.“
Podpořte naši práci ❤️
Pokud se vám tento článek líbil, zvažte zaslání spropitného, abychom mohli i nadále vydávat kvalitní obsah.
