**Anthropic uruchamia rozszerzony program Bug Bounty**

Firma zajmująca się sztuczną inteligencją Anthropic zaprezentowała rozszerzony program Bug Bounty, oferując nagrody do 15 000 USD dla uczestników, którzy potrafią „złamać” jej niewydany model AI nowej generacji. Ta inicjatywa ma na celu zwiększenie bezpieczeństwa jej flagowej AI, Claude-3, poprzez identyfikację luk w zabezpieczeniach za pomocą „red teamingu” — metody, w której inżynierowie próbują oszukać AI, aby generowała niechciane wyniki.

Nowy program Anthropic ma na celu uniwersalne jailbreaki, które mogłyby ominąć środki bezpieczeństwa w kluczowych domenach, takich jak cyberbezpieczeństwo. Doświadczeni badacze AI są zachęcani do składania wniosków do 16 sierpnia w celu uzyskania wczesnego dostępu do modelu. Wybrani uczestnicy pomogą zapewnić solidność zabezpieczeń AI.