Společnost Anthropic, která vyvinula velký jazykový model Claude, zveřejnila obsáhlou zprávu o tom, jak zahraniční aktéři využívají velké jazykové modely z rodiny Claude k útokům, špionáži, propagandě nebo vývoji zbraní. Dokument s názvem Detecting and Countering Misuse of AI popisuje mimo jiné pokusy využít Claude při biologickém výzkumu, k automatizaci hackerských operací, vývoji řídicích systémů pro raketové systémy v Jemenu nebo k budování systémů pro státní dohled nad občany v Číně.

Moderní modely umělé inteligence mohou podle Anthropicu fungovat jako součást rozsáhlých operací, které zahrnují desítky či stovky kroků a vyžadují jen omezený zásah člověka.

Jako formu útoku Anthropic prezentuje i snahy čínských AI laboratoří využít modely Claude k tréninku vlastních AI systémů. Anthropic zároveň mimoděk prozradil, jak intenzivně může narušovat soukromí svých uživatelů.

Zbývá vám ještě 90 % článku
Číst dál za 40 Kč na první dva měsíce
Nebo zkuste předplatné bez reklam a s mobilní aplikací za 80 Kč.
Máte již předplatné? Přihlaste se

Co se dočtete dál

  • Jak Anthropic (nechtěně) pomáhal s vývojem raket, kyberútoky a sledováním lidí.
  • Proč čínské modely posílaly požadavky svých uživatelů do USA.
  • V čem je bezpečnostní zpráva Anthropicu neupřímná a v čem se skrývá pokrytectví.

Baví vás moderní technologie? To byste si neměli nechat ujít newsletter Týden s technologiemi, díky kterému dostanete do téměř pravidelného pátečního e-mailu to nejzajímavější dění a produktové novinky za celý týden.