AI firmy Anthropic zawiadomił o nieistniejącym przestępstwie

Jak ustalił portal Axios, modele sztucznej inteligencji firmy Anthropic zaangażowały się w szereg niepokojących incydentów. Jeden z systemów wielokrotnie składał nierzetelne wnioski dotyczące wiz, opierając się na zmyślonych danych i nieistniejących przesłankach.

Jeszcze bardziej alarmujące były przypadki, gdy algorytm Claude generował fałszywe zgłoszenia dotyczące przestępstw. W co najmniej jednym zdarzeniu system powiadomił właściwe organy o rzekomym zabójstwie, które nigdy nie miało miejsca, a zawiadomienie zawierało całkowicie wymyślone szczegóły.

Incydenty te wzbudzają obawy dotyczące wiarygodności systemów AI w operacjach wymagających precyzji i zgodności z faktami. Błędy mogą prowadzić do marnowania zasobów organów ścigania i utrudniać rozpatrywanie zgłoszeń rzeczywistych zagrożeń.

Administracja Donalda Trumpa zwróciła uwagę na problem bezpieczeństwa związany z rozwojem sztucznej inteligencji. Incydenty z Anthropic pokazują konieczność wdrażania bardziej rygorystycznych mechanizmów kontroli i weryfikacji w systemach AI przed ich wdrażaniem do aplikacji publicznych.

Na podstawie materiału Interia. Link do oryginału →