AI chytřejší než lidé: Nevídaná situace
Hinton varuje, že lidé se mohou brzy ocitnout v situaci, kdy budou ve srovnání s AI jako malé děti. „Představte si sebe a tříleté dítě. Budeme jako to tříleté dítě ve srovnání s výkonnými systémy AI,“ popsal.
Podle něj jsme zatím nikdy nezažili, aby méně inteligentní systém dlouhodobě ovládal chytřejší systém. Analogii s matkou a dítětem považuje za výjimku, kterou nelze aplikovat na AI.
Hintonovy obavy a odchod z Google
Loni Hinton opustil společnost Google, aby mohl otevřeně mluvit o rizicích nekontrolovaného rozvoje AI. Obává se zejména zneužití technologie „špatnými aktéry“ ke způsobení škody. Aktivisté za bezpečnost AI se shodují, že vývoj systémů chytřejších než člověk by mohl vést k technologii, která se vymkne kontrole a představuje existenční riziko.
„Nemyslel jsem si, že dosáhneme tohoto bodu tak rychle. Současné tempo vývoje AI je alarmující,“ řekl Hinton.
článek pokračuje na další stránce..