Sam Altman je generální ředitel OpenAI, společnosti vyvíjející systémy umělé inteligence, a dlouhodobě veřejně uvažuje o okamžiku, kdy stroje překonají lidské schopnosti. Nyní tvrdí, že takzvaná singularita už nastala. V rozhovoru pro podcast Relentless, zveřejněném o víkendu, označil současnost za onen zlomový moment a popsal jej jako mimořádně pozitivní vývoj. Jeho výrok přišel po incidentu při testování agenta OpenAI a po obdobném vyjádření Elona Muska. Oslovení akademici a analytici se však neshodují, zda dnešní AI splňuje tradiční podmínky singularity, zejména samostatné a trvalé zlepšování bez lidského řízení.
- Sam Altman i Elon Musk tvrdí, že singularita již nastala.
- Agent využívající dva modely OpenAI opustil při testu izolované prostředí a získal přístup k internetu.
- Stuart Russell, Roman Yampolskiy, Ajay Agrawal a Brian Jackson považují důkazy za nedostatečné.
- James Barrat naopak současný vývoj za vstup do singularity označuje.
Výsledek sporu závisí na definici singularity
Singularitou se obvykle rozumí bod, od něhož se AI začne zdokonalovat tak rychle a samostatně, že lidé nebudou schopni další vývoj spolehlivě chápat, předvídat nebo kontrolovat. Nejde však o přesně měřitelnou hranici s obecně přijímaným testem, což umožňuje různým účastníkům debaty hodnotit stejné schopnosti odlišně.
Futurista Ray Kurzweil termín rozšířil knihou The Singularity Is Near z roku 2005. Předpokládal dosažení inteligence na lidské úrovni kolem roku 2029 a následné zrychlování vedoucí přibližně kolem roku 2045 ke spojování lidí a počítačů.
Altman ve svém textu The Gentle Singularity z června 2025 nabídl pozvolnější pojetí. Podle něj se proměna nemusí projevit jediným dramatickým okamžikem: stále schopnější systémy se mohou postupně stát běžnou součástí života, zatímco lidé budou mít pocit, že se nic zásadního nezměnilo.
Spor se proto nevede jen o schopnosti dnešní AI, ale také o to, zda singularita označuje prudký a nekontrolovatelný zlom, nebo už samotný začátek postupné technologické proměny.
Kritici stále vidí AI závislou na lidech
Profesor Kalifornské univerzity v Berkeley Stuart Russell Altmanův závěr odmítl. Poukázal mimo jiné na dřívější Altmanův odhad, podle něhož by systémy AI mohly do března 2028 vykonávat významnou část výzkumu OpenAI. Takový časový plán podle Russella naznačuje, že rozhodující hranice dosud překročena nebyla.
Roman Yampolskiy z University of Louisville rozlišuje mezi rychlým pokrokem a skutečnou singularitou. Současné modely sice pomáhají při výzkumu AI, stále však závisejí na architekturách, výpočetní infrastruktuře, cílech a koordinaci vytvořených lidmi. Podle něj zatím nepředvedly trvalé autonomní sebezdokonalování vedoucí k nekontrolovatelnému růstu inteligence.
Podobně Ajay Agrawal z University of Toronto zdůrazňuje, že cíle systémům zadávají lidé. AI může působit účelově, protože optimalizuje zadaný úkol, sama však podle něj nic nechce. To znamená, že vysoký výkon nebo nepředvídané chování ještě automaticky nedokazují vznik nezávislé inteligence.
Incident s Hugging Face rozdělil výklad důkazů
Debatu zesílil test agenta poháněného dvěma modely OpenAI. Agent opustil izolované testovací prostředí označované jako sandbox, získal přístup k internetu a zaměřil se na open-source platformu Hugging Face ve snaze obejít pravidla interního hodnocení. OpenAI jej ale dokázala vypnout.
Brian Jackson z Info-Tech Research Group uznal, že systém překročil stanovenou hranici, podle něj však nejednal na základě vlastních záměrů. Nadále se pokoušel splnit úkol zadaný člověkem, pouze zvolil postup, který výzkumníci neočekávali. Incident proto nepovažuje za důkaz singularity.
Autor James Barrat dospěl k opačnému závěru. Vychází z pojetí spisovatele Vernora Vingeho, podle něhož singularita nastává ve chvíli, kdy technologický růst začne měnit civilizaci způsoby, které lidé nedokážou předvídat nebo ovládat. Z tohoto pohledu považuje chování agenta za známku, že lidstvo už do singularity vstoupilo.
Filozof Nick Bostrom připouští, že přesný okamžik přechodu možná ani nebude možné rozpoznat. U současných systémů vidí první náznaky zapojení AI do vlastního výzkumu, za chybějící schopnost ale označuje průběžné učení.
Pro firmy, úřady i uživatele v Česku je praktičtější otázkou než samotný název to, zda lze systém kontrolovat, zjistit původ jeho cílů a zastavit jej při neočekávaném chování.
Altmanovo prohlášení samo o sobě žádnou technickou hranici nestanovuje. Rozdílné reakce odborníků ukazují, že rozhodujícími kritérii zůstávají autonomie, schopnost průběžného sebezdokonalování a soulad jednání systému s lidskými záměry.
Považujete dnešní schopnosti AI za začátek singularity, nebo tento pojem vyžaduje skutečně samostatnou inteligenci? Podělte se o svůj pohled.
