Rizika plynoucí z možností umělé inteligence vyvolávají obavy. A to až do té míry, že více než tisíc odborníků na AI a další osobnosti ze světa technologií a byznysu v otevřeném dopise požádalo o půlroční pozastavení dalšího vývoje umělé inteligence, která by byla na výkonnější než model GPT-4 od společnosti OpenAI. Mezi těmi, kdo dopis podepsali, jsou například Elon Musk, spoluzakladatel Applu Steve Wozniak, spoluzakladatel Skypu Jaan Tallinn nebo spoluzakladatel Pinterestu Evan Sharp.
Jak se v dopise zveřejněném neziskovou organizací Future of Life Institute uvádí, „systémy umělé inteligence s lidskou konkurenční inteligencí mohou představovat hluboká rizika pro společnost a lidstvo, jak ukázal rozsáhlý výzkum a potvrdily špičkové laboratoře umělé inteligence.“ Signatáři varují před rizikem zásadní změny v historii lidstva, kterou může umělá inteligence představovat. Proto by dle nich mělo být její využití plánované a řízené s přiměřenou péčí. Uvádějí také, že k něčemu podobnému aktuálně nedochází.
Rozhodovat mají lidé, ne stroje
Současné systémy umělé inteligence se v některých oblastech stávají konkurenceschopnými lidem. Proto je dle signatářů dopisu namístě položit si otázku: „Měli bychom nechat stroje zaplavit naše informační kanály propagandou a nepravdou? Měli bychom automatizovat všechny práce, včetně těch, které lidi, kteří je vykonávají, naplňují?"
Autoři dopisu odmítají riskovat ztrátu kontroly nad naší civilizací. Odmítají možnost, aby umělá inteligence člověka převýšila, přechytračila a v konečném důsledku nahradila. Rozhodnutí o budoucnosti lidstva dle nich nesmí být delegována na nevolené technologické lídry. Proto by dle dopisu výkonné systémy umělé inteligence měly být vyvíjeny pouze tehdy, pokud si jako lidstvo budeme jisti, že jejich účinky budou pozitivní a jejich rizika zvládnutelná.
Zástupci společnosti OpenAI se k dopisu nepřipojili. Ve svém nedávném prohlášení konstatovali, že „v určitém okamžiku může být důležité získat nezávislou kontrolu před zahájením trénování budoucích systémů a dohodnout se na omezení rychlosti růstu výpočetní techniky používané k vytváření nových modely.“ Více než tisíc vědců a podnikatelů daný okamžik vidí právě teď.
Bezpečnost především
Z tohoto důvodu je dle Muska a spol. na místě, aby všechny laboratoře rozvíjející umělou inteligenci minimálně na šest měsíců pozastavily trénink systémů umělé inteligence výkonnějších než GPT-4 . Tato pauza by měla být veřejná a ověřitelná a měla by zahrnovat všechny klíčové aktéry. Výzva jasně konstatuje, že „pokud takovou pauzu nelze rychle stanovit zákonem, měly by urychleně zasáhnout vlády a moratorium zavést ze své pozice“.
Laboratoře umělé inteligence a nezávislí odborníci by dle dopisu tento čas měli využít ke společnému vývoji a zavedení souboru společně sdílených bezpečnostních protokolů pro další vývoj umělé inteligence. Ty by mělo být možné kontrolovat nezávislými externími odborníky. Tyto protokoly by měly zajistit, že systémy, které se na ně vztahují, jsou bezpečné.
Tento požadavek nemá dle signatářů znamenat zastavení vývoje AI obecně, pouze krok zpět od rizika stále více nepředvídatelných modelů s novými schopnostmi.
