Patří k lidem, jejichž práce pomohla položit základy dnešní umělé inteligence. Teď ale Geoffrey Hinton stále hlasitěji upozorňuje, že technologie, na jejímž rozvoji se sám výrazně podílel, může lidstvu přinést nejen obrovské možnosti, ale také problémy, které dnes ještě neumíme spolehlivě kontrolovat. Osmasedmdesátiletý britsko-kanadský vědec a držitel Nobelovy ceny za fyziku tvrdí, že pokud jednou vzniknou systémy výrazně inteligentnější než lidé, nebude stačit pouze doufat, že nás budou poslouchat.
Hinton své nejnovější obavy popsal během festivalu Starmus na Tenerife a v rozhovoru pro britský The Telegraph. Za jednu z nejdůležitějších otázek považuje, zda dokážeme budoucí AI vytvořit tak, aby jí skutečně záleželo na lidském blahobytu. Jeho formulace byla mimořádně přímočará: pokud se nám to nepodaří, „jsme v koncích“. Nejde přitom o varování před dnešním běžným chatbotem, ale především před budoucími systémy, které by mohly člověka výrazně překonat v plánování, přesvědčování, programování nebo řešení složitých problémů.
Hinton už nemluví jen o inteligenci. Tvrdí, že AI může vykazovat známky vědomí
Jedním z nejkontroverznějších Hintonových současných názorů je přesvědčení, že dnešní systémy umělé inteligence už nelze jednoduše odbýt jako mechanismy, které vůbec nechápou, co dělají. Tvrdí, že AI podle něj rozumí otázkám a textu, který vytváří, způsobem, jenž má určité podobnosti s lidským zpracováním informací.
V posledním rozhovoru zašel ještě dál. Odkázal na výzkumy ukazující, že některé modely mohou změnit své chování, pokud rozpoznají, že jsou právě testovány. Hinton to považuje za určitý druh uvědomování si situace a tvrdí, že hranice mezi „být si něčeho vědom“ a „být vědomý“ není tak jednoduchá, jak někdy předpokládáme.
Právě tady ale mezi odborníky neexistuje shoda. To, že model dokáže rozpoznat kontext testu a přizpůsobit mu své chování, samo o sobě nedokazuje subjektivní prožívání. Otázka vědomí strojů zůstává otevřeným vědeckým a filozofickým problémem a neexistuje konsenzus, že současné AI systémy skutečně něco „cítí“ nebo prožívají stejně jako lidé.