Anthropic mení svoj prístup k bezpečnosti pod tlakom Pentagonu
Anthropic, tvorca AI modelu Claude, sa ocitá pod tlakom amerického ministerstva obrany, ktoré požaduje zmiernenie bezpečnostných opatrení a plný prístup k schopnostiam ich AI. Firma v reakcii na to upravuje svoju bezpečnostnú politiku a prijíma nový flexibilnejší prístup.
Vypočujte si zhrnutie článku
"Anthropic čelí tlaku od Pentagonu na zníženie bezpečnostných bariér a umožnenie vojenskej využiteľnosti ich AI. Respondovali úpravou bezpečnostnej politiky a zmenou prístupu k bezpečnosti."
Dve správy týkajúce sa výrobcu AI modelu Claude, spoločnosti Anthropic, šokovali verejnosť. Napätie medzi spoločnosťou a americkým ministerstvom obrany dosiahlo nový vrchol. Minister obrany USA, Pete Hegseth, požiadal Anthropic o zmiernenie opatrení týkajúcich sa AI a umožnenie armáde neobmedzeného prístupu k chatbotu Claude. V ten istý deň, keď táto informácia vyšla na povrch, Anthropic oznámilo zmenu vo svojej kľúčovej bezpečnostnej politike.
Spoločnosť oznámila úpravu svojej Responsible Scaling Policy (RSP) s cieľom znížiť bezpečnostné bariéry. Doteraz platila prísna politika zastavenia vývoja nových AI modelov, pokiaľ sa nedodržiavali určité bezpečnostné smernice. Teraz sa však bezpečnosť posudzuje relatívne, bez striktných hraníc.
TOTO mení všetko! Anthropic s Claude Opus 4.7 prebral žezlo kráľa AI?
AI • Anthropic dnes s modelom Claude Opus 4.7 prebral vedenie v pretekoch o najschopnejšiu AI, prekonávajúc konkurenciu v kľúčových oblastiach. Predstavuje tak významný prelom pre podnikové nasadenie umelej inteligencie.
Otvoriť článok
Podľa hlavného vedeckého pracovníka Jareda Kaplana, přerušovanie výcviku AI modelov by nepomohlo nikomu. S rýchlym pokrokom AI by bolo neefektívne dávať unilaterálne záväzky, zatiaľ čo konkurencia napreduje.
Anthropic teraz plánuje nasadiť nové "Testy rizík" a "Plány pre obrannú bezpečnosť" na zabezpečenie transparentnosti verejnosti. Time zahrnul reakciu odborníka na riziká AI, ktorý vyjadril obavy, že táto flexibilnejšia politika môže mať negatívne dopady: "Ak sa bezpečnostné opatrenia stanú relatívnymi, môže sa to zvrhnúť na zlo, pred ktorým sme sa kedysi varovali," uviedol Chris Painter.
Vo svetle týchto udalostí je otázne, ako sa bude meniť AI politika firmy a aký vplyv bude mať tlak Pentagonu na ostatných hráčov na trhu.