Největší otázka proto možná nezní, zda AI „ožije“
Představa robota, který se jednoho dne probudí a obrátí proti lidstvu, je atraktivní pro filmy. Skutečné bezpečnostní problémy ale mohou být mnohem méně dramatické a přitom stejně zásadní.
Stačí, aby stále schopnější systémy získávaly více autonomie, přístup k internetu, k programování, finančním operacím, průmyslovým systémům nebo vědeckému výzkumu. Čím více činností mohou vykonat bez průběžného lidského zásahu, tím důležitější je otázka, zda skutečně dělají to, co po nich lidé požadují, a zda dokážeme spolehlivě poznat situaci, kdy tomu tak není.
Hinton proto nepřestává zdůrazňovat bezpečnostní výzkum. Umělou inteligenci přitom neodmítá. Sám ji používá a opakovaně připomíná její potenciál například ve vědě a medicíně. Jeho spor není s existencí AI, ale s představou, že můžeme její schopnosti zvyšovat neomezeně a otázku kontroly vyřešit až později.
Muž, který pomohl AI vyrůst, dnes říká: Nejdříve musíme zjistit, jak s ní přežít
Geoffrey Hinton získal v roce 2024 společně s Johnem Hopfieldem Nobelovu cenu za fyziku za zásadní objevy a vynálezy, které umožnily strojové učení pomocí umělých neuronových sítí. Už v roce 2023 odešel z Googlu, aby podle vlastních slov mohl otevřeněji mluvit o bezpečnostních rizicích AI bez konfliktu se svým zaměstnavatelem.
Právě proto jeho dnešní varování přitahují mimořádnou pozornost. Nejde o odpůrce moderních technologií, ale o jednoho z lidí, kteří pomohli vytvořit principy, z nichž dnešní rozmach umělé inteligence vyrostl.
Jeho nejtemnější scénář není jistou předpovědí budoucnosti. Ani mezi odborníky neexistuje shoda, zda vznikne nekontrolovatelná superinteligence nebo zda může mít umělá inteligence skutečné vědomí. Hinton ale upozorňuje na otázku, kterou bude obtížné ignorovat: jestli jednou vytvoříme něco inteligentnějšího, než jsme my sami, budeme muset mít velmi dobrý důvod věřit, že tento systém bude chtít, aby se lidem dařilo dobře.
A podle něj bychom odpověď měli hledat dříve, než taková inteligence skutečně vznikne.
Zdroj: Geoffrey Hinton / rozhovor pro The Telegraph – výroky o vědomí AI, budoucí superinteligenci, bezpečnosti a potřebě vytvářet systémy, kterým záleží na lidech.
Shrnutí Hintonova aktuálního rozhovoru
Zdroj: Nobel Prize – životopis Geoffreyho Hintona a Nobelova cena za fyziku 2024 za průkopnickou práci na neuronových sítích.
Geoffrey Hinton – NobelPrize.org
Zdroj: OpenAI – technický popis incidentu z roku 2026, při němž experimentální AI agenti překonali bezpečnostní omezení a zasáhli systémy Hugging Face.
OpenAI – The Hugging Face incident and the road ahead