Geoffrey Hinton, známý jako otec umělé inteligence, nedávno vyjádřil obavy z hrozeb, které by umělá inteligence mohla přinést lidem. Technologičtí giganti, kteří se ženou za vývojem stále dokonalejších botů, možná úplně nedomýšlejí důsledky svých činů.
V rozhovoru pro televizní pořad „60 Minutes“ Hinton vyjádřil své obavy z rozvoje umělé inteligence. Poukázal na to, že s tím, jak technologičtí giganti soutěží o vytvoření chatbotů a různých pomocných aplikací AI, může technologie pokročit do té míry, že přetrumfne člověka a může být použita k manipulaci s lidmi.
Hinton uvedl, že se možná blížíme k období, kdy budou stroje poprvé schopny myslet inteligentněji než lidé, a zdůraznil, že je důležité vývoj umělé inteligence sledovat. Zejména zdůraznil, jak děsivé je, že by umělá inteligence mohla být použita k ovládání lidí kvůli své obrovské schopnosti učit se. Stroje jsou velmi dobře schopné učit se všechno od politické teorie, přes mediální manipulace až po historické fikce.
Schopnost učení vede k manipulaci
Hinton také tvrdí, že chybějícím prvkem v současném stavu umělé inteligence je sebeuvědomění, které by jí umožnilo využít svou inteligenci k manipulaci s lidmi. Rovněž připustil možnost, že se UI v příštích pěti až dvaceti letech stane významnou hrozbou, a zdůraznil, že by mohla zvládnout umění přesvědčování a psychologické manipulace.
Kromě obav z manipulace, které zmiňoval Hinton, ale dlouhodobě existují i další obavy týkající se dopadu AI na společnost, jako je vytlačování pracovních míst nebo vytváření uměle vytvořených videí a zvukových záznamů, které jsou jen velmi těžko rozpoznatelné. Hinton vidí jako základní problém extrémní schopnost UI učit se způsobem, kterému lidé zatím stále pořádně nerozumí.
Pětasedmdesátiletý Hinton před nedávnem odešel ze společnosti Google, kde pracoval deset let na vývoji UI. Jako důvod odchodu uvedl, že chce mít možnost otevřeně hovořit o možných rizicích UI aniž by se musel starat o to, jak to souvisí s podnikáním společnosti Google.
