Dario Amodei, generální ředitel společnosti Anthropic, předpovídá, že systémy umělé inteligence se mohou brzy stát zcela autonomními a dokonce schopnými se samoreplikovat. V podcastu s Ezrou Kleinem z New York Times Amodei hovořil o zodpovědném škálování ve vývoji AI a možných důsledcích, pokud by se škálování nekontrolovalo.
Amodei se domnívá, že současný stav technologie umělé inteligence je podobný ASL 2, přičemž na obzoru se objevuje ASL 4, která zahrnuje funkce jako autonomie a přesvědčování. Uvádí toto srovnání mezi vývojem umělé inteligence a úrovní biologické bezpečnosti ve virologických laboratořích s nejvyšším zabezpečením. Zdůrazňuje, že hráči na státní úrovni mohou využívat AI ke geopolitickým cílům, což vyvolává obavy z nekontrolovaného rozvoje schopností AI.
Ve své teoretické studii s názvem Přízrak autonomní umělé inteligence Amodei tvrdí, že modely umělé inteligence se blíží k tomu, aby se mohly reprodukovat a existovat samostatně ve volné přírodě. Tvrdí, že této úrovně autonomie můžeme dosáhnout již v roce 2025 nebo nejpozději v roce 2028.
Amodei je v komunitě odborníků na umělou inteligenci velmi známou osobností. Byl rozhodujícím aktérem při tvorbě GPT-3 a opustil OpenAI, a vrhl se na dráhu antropologie. Jeho názor zdůrazňuje význam odpovědného vývoje umělé inteligence pro udržení společenského blahobytu a účastní se debaty o etice a řízení AI.
