by Od vydání AI chatbota ChatGPT v roce 2020 jsme slyšeli o hrozbě, kterou představuje umělá inteligence. Prohlášení podepsané akademickými odborníky a představiteli technologického průmyslu dokonce označilo AI za „riziko vyhynutí“.
Ale ať už si o takových varováních myslíte cokoli, existenční hrozba pro lidstvo bude pravděpodobně pouze dlouhodobou hrozbou. Krátkodobě a střednědobě existují mnohem hmatatelnější rizika. Co tedy jsou a jak moc bychom se měli bát?
Dlouhodobým a často vyvolávaným problémem je možnost, že by nám umělá inteligence mohla vzít práci. Je to něco, o čem jsem uvažoval už od roku 1997, kdy jsem napsal svůj první článek o umělé inteligenci na neuronových sítích.
Naším cílem bylo vyvinout inteligentní výrobní stroj schopnější než lidé odhalovat vady během obráběcích operací. Díky tomu bude výrobní systém efektivnější.
Tehdy nás napadlo, jestli to způsobí nezaměstnanost lidí, když v dílně nahradí lidi stroje. Automatizace a další pokroky však vytvořily nové pracovní příležitosti pro lidi, jako jsou programovací stroje. Jednou reakcí na rychlé tempo technologických změn tedy může být přeškolení lidí na nové role vytvořené technologickým narušením.
Ohrožena nejsou jen pracovní místa ve výrobě. Software pro vytváření obrázků AI byl předmětem obvinění, že by mohl připravit umělce a designéry o práci. Opět si však myslím, že historie nabízí určité ponaučení.
Vynález fotografie nenahradil malbu, nevěřím ani generátorům obrázků. Je nepravděpodobné, že by systémy umělé inteligence byly schopny produkovat nová umělecká díla v krátkodobém až střednědobém horizontu.
Je ale možné, že ve střednědobém horizontu stroje na mnoha pracovištích nahradí člověka. Například v medicíně by systémy umělé inteligence mohly integrovat laboratorní výsledky, lékařské snímky a anamnézu pacienta a poskytnout spolehlivou diagnózu a prognózu.
Mohly by také nahradit člověka pro mnoho úkolů prováděných v chirurgii. Mezi další oblasti, které by se mohly potenciálně spoléhat na AI, patří analýza tržních dat, investiční rozhodnutí a počítačové programování.
Navzdory rizikům nezaměstnanosti by umělá inteligence mohla mít na pracovišti mnoho pozitivních účinků. Umělá inteligence může například sloužit jako nástroj ke zlepšení lidských schopností, což se promítá do vyšší produktivity.
V krátkodobém až střednědobém horizontu by tato technologie mohla mít dopad podobný jako kalkulačky v 70. letech, počítače, které v 80. letech nahradily psací stroje, a automatizace a robotizace, které proměnily mnoho továren v 90. letech.
Špatné vzdělání?
V oblasti vzdělávání panovaly obavy, že ChatGPT by mohl negativně ovlivnit proces učení studentů nebo jejich zdraví. Student by například mohl požádat ChatGPT, aby pro něj napsal svůj kurz a vynechal tak úsilí o výzkum a psaní, které vede k lepšímu pochopení daného předmětu. Lepším přístupem by mohla být změna a zlepšení způsobu, jakým vyučujeme a hodnotíme výsledky učení.
Zaměření vzdělávání na praktické dovednosti a aplikaci znalostí při řešení problémů by mohlo zajistit hlubší porozumění ze strany studentů. Umělá inteligence by mohla být použita jako vodítko, stejně jako v současnosti používáme kalkulačky, aby pomohla obohatit znalosti lidí.
V blízké budoucnosti je nezbytné, aby si studenti vybírali univerzitní kurzy, které rozumí tomu, jak používat AI, a volili předměty, po kterých bude s pokračující expanzí této technologie vždy vysoká poptávka.
Dosud jsme však předpokládali, že systémy umělé inteligence fungují tak, jak mají poskytovat přesné informace. Bohužel víme, že tomu tak není.
V květnu 2023 se například americký právník přiznal k používání ChatGPT pro případový výzkum. Bylo zjištěno, že spis advokáta odkazoval na právní případy, které neexistovaly. Chatbot je vymyslel. Není to poprvé, co byly tyto “halucinace AI” hlášeny.
Pak máme velmi reálné riziko, že AI by mohla být použita k nekalým účelům, jako je krádež identity. Zločinci by například mohli pomocí AI naklonovat něčí hlas. Poté mohli zatelefonovat svým rodinným příslušníkům a pokusit se je přesvědčit, aby se vzdali citlivých informací, které by mohly být užitečné pro získání přístupu k bankovním účtům.
Variantou předstírání identity založené na AI je použití deepfake videí. Mezi mnoha možnými způsoby použití jsou obavy, že jsou využívány k vydávání se za politiky, ovlivňování voleb. Nedávno se Martin Lewis, anglický finanční novinář a hlasatel, stal předmětem podvodné reklamy pomocí hluboce falešného videa.
Ale co dlouhodobé „existenční riziko“ pro lidstvo? Varování o možnosti, že by umělá inteligence mohla vyhladit náš druh, pocházejí dávno před ChatGPT.
Ať už si někdo o této možnosti myslí cokoli, musíme mít na paměti, že AI bude „žít navždy“. Technologie tu zůstane, což znamená, že bude shromažďovat znalosti, data a zkušenosti shromážděné od miliard lidí po generace.
Pokud je umělá inteligence navržena tak, aby napodobovala lidské bytosti, její instinkt přežití a vědomí by se mohly vyvíjet postupně po desetiletí. Jako takový by mohl přestat být jen nástrojem, který nás podporuje, a stát se samostatnou entitou. Pokud k tomu dojde, existuje reálná možnost, že se pak stane schopným rozhodovat ve vlastním zájmu.
Tento článek je znovu publikován z The Conversation pod licencí Creative Commons. Přečtěte si původní článek.
Amin Al-Habaibeh získává finanční prostředky od Innovate UK, UKRI, Evropské komise a Royal Academy of Engineering.
