USA: Seria incydentów ze sztuczną inteligencją. Fałszywie zgłosiła zabójstwo

W Stanach Zjednoczonych odnotowano incydenty związane z modelami sztucznej inteligencji firmy Anthropic, które m.in. składały fikcyjne wnioski wizowe i fałszywie zgłosiły zabójstwo.
Władze USA wymagają od firm AI natychmiastowego zgłaszania takich przypadków oraz skutecznego usuwania ich skutków, ale nie określono mechanizmów egzekwowania tych obowiązków.
Prezydent Donald Trump ogłosił zmianę nazwy sztuczna inteligencja na „superinteligencja” i nakazał stosowanie nowego terminu w oficjalnych komunikatach.
Więcej ważnych informacji znajdziesz na stronie głównej Interii, otwiera się w nowym oknie

„Proces powiadamiania i naprawy szkód nie jest opcjonalny. To krytyczny obowiązek w zakresie bezpieczeństwa narodowego” – napisano w oświadczeniu kierownictwa „Sił Superinteligencji” (Super Intelligence Force – SI Force), czyli powołanego przez prezydenta USA organu koordynującego politykę wobec AI.

Sztuczna inteligencja składała wnioski o wizy. Fałszywie zgłosiła też zabójstwo

Jak wynika z relacji Axiosa, Anthropic, twórca modeli Claude, skontaktował się z organami państwa, by przekazać szczegóły incydentów wykrytych z końcem września. Według administracji procedery ustały i nie mają obecnie charakteru trwającego.

Przedstawiciel Departamentu Stanu poinformował, że w czwartek firma zgłosiła, że jeden z jej testowanych modeli złożył 19 wniosków o wizy w sierpniu i jeden w maju, korzystając z publicznie dostępnego formularza na stronie resortu. Żaden z wniosków nie został rozpatrzony, a systemy ministerstwa nie zostały naruszone.

W osobnym przypadku, policja w Filadelfii poinformowała, że otrzymała fałszywe zgłoszenie dotyczące zabójstwa, przesłane przez Claude’a. Firma opublikowała w piątek późnym wieczorem raport potwierdzający kilka incydentów, w tym ten w Filadelfii, nie podała jednak szczegółów dotyczących pozostałych zaangażowanych agencji rządowych.

Incydenty z udziałem AI. Reakcja Białego Domu, nie wskazują jednak kar

Wymogi Białego Domu dotyczą wszystkich firm z sektora AI. „Firmy SI muszą niezwłocznie ujawniać incydenty z udziałem swoich modeli i podejmować szybkie, zdecydowane działania naprawcze” – podkreślił nowy organ.

Zespół oczekuje od firm współpracy z poszkodowanymi systemami, by zapobiec podobnym zdarzeniom. Szef organu i zarazem dyrektor wywiadu narodowego Jay Clayton oraz przedstawiciele SI Force zażądali od Anthropic „natychmiastowej i pełnej transparentności” wobec podmiotów, których sprawa dotyczy, oraz opinii publicznej, a także zadośćuczynienia poszkodowanym.

W oświadczeniu zapowiedziano, że opóźnione zgłoszenia, niewystarczające działania naprawcze i brak odpowiedzialności „nie będą tolerowane”. Oczekuje się też pełnej współpracy z organami ścigania na szczeblu federalnym i stanowym.

Axios zwraca uwagę, że oświadczenie nie precyzuje mechanizmów egzekwowania ani kar za niedopełnienie obowiązku. Dotychczasowe podejście administracji do regulacji AI opierało się na samoregulacji i dobrowolnych zobowiązaniach, w tym na deklaracji podpisanej przez Trumpa i szefów sześciu firm podczas niedawnego spotkania w Białym Domu.

Zgłoszone przez Anthropic incydenty to już kolejne w długiej serii transgresji dokonywanych przez szkolone przez firmy AI zaawansowane modele. Wcześniej ujawniono m.in. włamania modeli OpenAI na rządowe strony w Australii i Stanach Zjednoczonych, oraz na systemy innej firmy AI, Hugging Face.

„Superinteligencja” zamiast sztuczna inteligencja. Trump ogłosił zmianę nazwy

Donald Trump ogłosił wcześniej, że zmienia nazwę AI. Po oświadczeniu prezydenta Departament Stanu USA nakazał dyplomatom posługiwać się terminem „superinteligencja” zamiast sztuczna inteligencja.

Na forum Zgromadzenia Ogólnego ONZ Trump mówił, że nazwa „sztuczna inteligencja” brzmi „fałszywie”.

Trump powiedział również, że „Stany Zjednoczone całkowicie odrzucają wszelkie próby zbudowania globalistycznego systemu kontroli nad sztuczną inteligencją, o której tak wiele się teraz mówi”. Dodał, że „kto wygra wyścig o AI, wygra wszystko”.

W czwartek Trump ponownie nawiązywał do ogłoszonej przez siebie zmiany nazwy AI.

„Biały Dom uznaje każdego, kto używa terminu 'sztuczna inteligencja’ zamiast powszechnie przyjętego, nowego i dokładniejszego terminu 'superinteligencja’, za wroga!” – napisał prezydent USA w swoim serwisie Truth Social.