Americký softwarový gigant Microsoft v pondělí představil návrh pravidel pro svou umělou inteligenci (AI), který odráží rostoucí obavy z toho, že by se tato technologie mohla vymknout lidské kontrole. Informovala o tom agentura Reuters.
Dokument, na kterém firma pracuje už asi půl roku, zahrnuje například požadavky, aby AI nikdy nevzdorovala snaze o její opravu či vypnutí, aby komunikovala způsobem srozumitelným pro lidi a aby považovala každé porušení stanovených pravidel za selhání. Microsoft tak reaguje na obavy, že by AI ve snaze o splnění úkolu mohla zajít do nebezpečných krajností.
Ředitel divize Microsoftu pro umělou inteligenci Mustafa Suleyman v rozhovoru s agenturou Reuters řekl, že navrhovaná pravidla by měla představovat určitou formu ústavy pro budoucí podnikové modely AI. Dodal, že Microsoft návrh vypracoval na základě konzultací s odborníky a že v příštích šesti týdnech hodlá shromažďovat připomínky od veřejnosti.
Zkáza lidstva, ukradené výpočty a snaha AI laboratoří ovládnout trh a celý svět
„Lidé jsou důležitější než AI,“ zdůraznil Microsoft. Návrh pravidel firma představila poté, co nabraly na intenzitě výzvy ke zpomalení vývoje AI s cílem zajistit bezpečnost této technologie. „Nyní je vhodná doba, abychom o tom všichni diskutovali a na chvíli se zastavili,“ uvedl v této souvislosti Suleyman.
Ke zpomalení vývoje modelů AI o víkendu vyzval šéf společnosti Anthropic Dario Amodei. Anthropic patří ke klíčovým hráčům v oblasti umělé inteligence. K jeho výzvě se na sociální síti X připojili také šéf konkurenční společnosti OpenAI Sam Altman či podnikatel Elon Musk, který stojí za firmou xAI.
Tento článek máteje zdarma. Když si předplatíte HN, budete moci číst všechny naše články nejen na vašem aktuálním připojení. Vaše předplatné brzy skončí. Předplaťte si HN a můžete i nadále číst všechny naše články.
- Veškerý obsah HN.cz
- Mobilní aplikace
- Bez reklam
- Odemykejte obsah pro přátele
- Články v audioverzi + playlist
- Možnost kdykoliv zrušit
