Umělá inteligence (AI) může vést k zániku lidstva, varovali vedoucí představitelé technologického sektoru, včetně šéfa společnosti OpenAI, která vyvinula chatovacího robota ChatGPT. Informoval o tom dnes server BBC News s odkazem na prohlášení, které podepsaly desítky akademiků, expertů a podnikatelů.
Hlasité upozorňování na rizika a snaha o zavedení regulace však působí nedůvěryhodně. Firmy jako OpenAI může motivovat snaha ochránit své investice a zabránit nové konkurenci v tom, aby se na stávající systémy dotáhla jako například open source systém pro generování obrázků Stable Diffusion na komerční Dall-E.
„Zmírnění rizika vyhynutí v důsledku umělé inteligence by mělo být globální prioritou vedle dalších rizik celospolečenského dosahu včetně pandemií a jaderných válek,“ stojí v prohlášení zveřejněném na webových stránkách neziskové organizace Center for AI Safety (CAIS). Mezi stovkami významných osobností, které text podepsaly, je i šéf OpenAI Sam Altman či počítačový vědec Geoffrey Hinton, kterému se přezdívá „kmotr umělé inteligence“.
Které firmy mohou nejvíce ušetřit na mzdách díky umělé inteligenci? Investoři se dočkali odpovědi
Obavy, že systémy umělé inteligence „přechytračí“ lidstvo, zesílily s nástupem nové generace vysoce schopných chatovacích robotů, jako je ChatGPT.
Tisíce akademiků, expertů a podnikatelů zapojených do vývoje umělé inteligence včetně miliardáře Elona Muska v březnu v prohlášení vyzvaly k nejméně půlročnímu pozastavení vývoje nových modelů s ohledem na „hluboká rizika pro společnost a lidstvo“. Elon Musk přitom stál u vzniku společnosti OpenAI a zároveň nedávno založil novou firmu zaměřenou na vývoj „svobodného“ velkého jazykového modelu, který má být oproštěný od „levicového zkreslení“.
S regulacemi rychle se vyvíjející technologie se snaží přijít země po celém světě včetně Evropské unie, která by ještě letos měla schválit právní rámec týkající se umělé inteligence. Snaha představitelů velkých komerčních firem podnikajících na poli umělé inteligence propagovat regulaci a prosadit ji zejména v USA připomíná snahu vrtěti psem.
Pokud se šéf OpenAI nebo zástupci Microsoftu dohodnout s americkými zákonodárci na regulaci, budou výrazně ovlivňovat její podobu a mohou z toho těžit, na úkor konkurentů. O tom svědčí například nápad licencovat vývoj pokročilých jazykových modelů jen vybraným státem vybraným firmám. Neupřímně působí i volání Elona Muska po pozastavení vývoje umělé inteligence na půl roku ve chvíli, kdy nakupuje hardware potřebný pro vývoj vlastní umělé inteligence.
Neobstojí ani argument regulovat vývoj systémů umělé inteligence pod záminkou ochrany proti šíření dezinformací. Pokud by šlo představitelům technologických firem právě o ochranu uživatelů před nepravdivými a zavádějícími informacemi, musely by lobbovat primárně za přísnější regulaci sociálních sítí a efektivnější omezení šíření dezinformací a ruské či čínské propagandy. Paradoxně Elon Musk jako majitel sociální sítě Twitter tento týden vystoupil z dobrovolného závazku bojovat na území EU proti dezinformacím.
Přidejte si Hospodářské noviny
mezi své oblíbené tituly
na Google zprávách.
Tento článek máteje zdarma. Když si předplatíte HN, budete moci číst všechny naše články nejen na vašem aktuálním připojení. Vaše předplatné brzy skončí. Předplaťte si HN a můžete i nadále číst všechny naše články. Nyní první 2 měsíce jen za 40 Kč.
- Veškerý obsah HN.cz
- Možnost kdykoliv zrušit
- Odemykejte obsah pro přátele
- Ukládejte si články na později
- Všechny články v audioverzi + playlist
