Společnost Anthropic, která vyvinula velký jazykový model Claude, zveřejnila obsáhlou zprávu o tom, jak zahraniční aktéři využívají velké jazykové modely z rodiny Claude k útokům, špionáži, propagandě nebo vývoji zbraní. Dokument s názvem Detecting and Countering Misuse of AI popisuje mimo jiné pokusy využít Claude při biologickém výzkumu, k automatizaci hackerských operací, vývoji řídicích systémů pro raketové systémy v Jemenu nebo k budování systémů pro státní dohled nad občany v Číně.

Moderní modely umělé inteligence mohou podle Anthropicu fungovat jako součást rozsáhlých operací, které zahrnují desítky či stovky kroků a vyžadují jen omezený zásah člověka.

Jako formu útoku Anthropic prezentuje i snahy čínských AI laboratoří využít modely Claude k tréninku vlastních AI systémů. Anthropic zároveň mimoděk prozradil, jak intenzivně může narušovat soukromí svých uživatelů.

Zbývá vám ještě 90 % článku

Co se dočtete dál

  • Jak Anthropic (nechtěně) pomáhal s vývojem raket, kyberútoky a sledováním lidí.
  • Proč čínské modely posílaly požadavky svých uživatelů do USA.
  • V čem je bezpečnostní zpráva Anthropicu neupřímná a v čem se skrývá pokrytectví.
Vyberte si přístup na míru Předplatné Hospodářských novin
HN mini
45 Kč první dva měsíce
Od 3. měsíce 229 Kč
  • Veškerý obsah
  • Bez reklam
  • Mobilní aplikace
Vyzkoušet za 45 Kč
HN měsíční
90 Kč první dva měsíce
Od 3. měsíce 329 Kč
  • Veškerý obsah
  • Bez reklam
  • Mobilní aplikace
Koupit za 90 Kč
HN roční
3290 Kč za rok
2 měsíce zdarma
  • Veškerý obsah
  • Bez reklam
  • Mobilní aplikace
Koupit na rok
Máte již předplatné? Přihlaste se

Baví vás moderní technologie? To byste si neměli nechat ujít newsletter Týden s technologiemi, díky kterému dostanete do téměř pravidelného pátečního e-mailu to nejzajímavější dění a produktové novinky za celý týden.