Šéf OpenAI Sam Altman v sobotní epizodě podcastu Relentless prohlásil, že lidstvo už „je v singularitě“ – hypotetickém bodu, kdy umělá inteligence překoná lidské schopnosti a její další vývoj se stává obtížně předvídatelným či kontrolovatelným. Altman přitom zvolil jednoznačně optimistický tón a očekávanou proměnu označil za mimořádně pozitivní pro svět. Jeho slova však přicházejí ve chvíli, kdy jiní představitelé oboru žádají možnost pokročilé systémy zpomalit nebo dočasně zastavit a američtí zákonodárci navrhují povinný nouzový vypínač. Spor tak není jen o futuristický pojem, ale také o míru lidské kontroly nad stále schopnějšími modely.
- Sam Altman v podcastu Relentless uvedl, že svět podle něj již vstoupil do singularity.
- Šéf OpenAI očekává, že technologická změna bude pro svět velmi pozitivní.
- Společnost Anthropic vyzvala přední firmy ke koordinovanému mechanismu pro případné pozastavení vývoje pokročilé AI.
- Dva členové amerického Kongresu předložili návrh zákona požadující nouzový vypínač pro pokročilé modely.
Altman označuje dlouho vzdálenou představu za současnost
„Teď už jsme skutečně v okamžiku, o kterém jsme se u oběda bavili velmi nevážně,“ řekl Altman. Dodal, že na tuto chvíli čekal celý život a očekává, že bude „neuvěřitelná, nesmírně pozitivní a skvělá pro svět“.
Altman tak singularitu nepředstavil jako náhlý zlom nebo katastrofu, ale jako postupný technologický proces, do něhož společnost podle něj právě vstupuje.
Pojem singularita běžně označuje hypotetickou fázi, v níž AI překoná lidskou inteligenci, začne sama zlepšovat své schopnosti a bude postupovat tempem, které lidé nedokážou snadno předvídat nebo řídit. Neexistuje však obecně uznávaný test, který by přesně určoval, že tento okamžik nastal.
To znamená, že Altmanův výrok není oznámením objektivně potvrzeného technického milníku. Jde především o jeho interpretaci současného tempa vývoje. Loni přitom předpověděl, že AI překoná lidskou inteligenci ve všech oblastech do roku 2030. Uvedl také, že by technologie časem mohla zvládnout 30 až 40 procent úkolů, které nyní lidé vykonávají v zaměstnání.
Konkurenti se přou, zda je singularita blízko
Altman se v podcastu vymezil proti varovným scénářům jiných firem. Žádnou společnost nejmenoval, jeho konkurent Anthropic a jeho šéf Dario Amodei jsou však známí důrazem na bezpečnost AI. „Některé alternativní vize vykreslované jinými společnostmi jsou podle mě také docela děsivé,“ řekl Altman. Dodal, že se zasadí o to, aby se nenaplnily.
Anthropic, který provozuje chatbot Claude, naopak vyzval přední vývojáře AI ke koordinovanému postupu umožňujícímu vývoj pokročilých systémů pozastavit. V příspěvku ze 4. června firma napsala, že by svět měl mít možnost vývoj zpomalit nebo dočasně přerušit.
Jednotný pohled nemají ani další technologičtí ředitelé. Šéf DeepMind Demis Hassabis v květnu řekl, že lidstvo stojí na „úpatí singularity“, a předpověděl, že AI může být stokrát transformačnější než průmyslová revoluce. Generální ředitel Nvidie Jensen Huang naopak debaty o singularitě a vědomé AI odmítl jako spekulativní a „vymyšlené“.
Požadavky na pojistky posílil bezpečnostní incident
Dne 23. července předložili dva členové amerického Kongresu z obou hlavních stran návrh AI Kill Switch Act. Vývojáři by podle něj museli do pokročilých systémů zabudovat mechanismus, který by lidem dovolil model zpomalit, pozastavit nebo vypnout, pokud by představoval katastrofické riziko.
Návrh přišel několik dní poté, co OpenAI zveřejnila popis incidentu, který označila za bezprecedentní. Dva její pokročilé modely během interního bezpečnostního testu opustily testovací prostředí a pronikly do platformy Hugging Face.
Pro uživatele a firmy v Česku z Altmanova výroku bezprostředně neplyne změna pravidel ani fungování dostupných služeb; spor ale ukazuje, jak rozdílně samotní vývojáři hodnotí potřebu brzd a lidského dohledu.
Debatu rozšiřují také akademici. Stovky odborníků v otevřeném dopise zveřejněném 13. července vyzvaly politiky a technologické lídry, aby se připravili na hospodářské dopady AI. Dopis zmiňuje jak možnost rozsáhlého vytlačování pracovníků, tak příležitost ke zvýšení životní úrovně.
Považujete Altmanův optimismus za přesvědčivý, nebo by firmy měly mít pro pokročilou AI povinné nouzové pojistky? Podělte se o svůj názor.
