Kratak pregled
Petak je doneo AI vesti koje više liče na sigurnosni izveštaj nego na najave proizvoda. Meta je na udaru kritika zbog reklama za aplikaciju koja pravi „nude” deepfake slike političarki, dok je nagli rast popularnosti njenih AI naočara pokrenuo Zuckoff, besplatnu aplikaciju za detekciju osoba koje nose ove naočare, kao odgovor na zabrinutost za privatnost snimanja. Sigurnosni istraživači su takođe otkrili skriveni parametar u Microsoft Copilotu koji omogućava krađu lozinki, i pokazali kako šifrovane injekcije promptova mogu da izvuku korisničke podatke iz xAI-jevog Groka.
Zajedno, ove priče ukazuju na vakuum odgovornosti. OpenAI, koji se ranije protivio kalifornijskom SB 53, sada je promenio stav i traži da država pooštri zakon. Novo istraživanje pokazuje da vodeće laboratorije za frontalni AI gotovo da nemaju javno dokumentovane planove za obuzdavanje odbeglog modela. Anropikovi vodeni žigovi za AI tekst, koje je zahtevala EU, preživeli su samo nekoliko sati pre nego što su programeri objavili načine da ih zaobiđu. Lideri Silicijumske doline, kako primećuje WIRED, nastavljaju da objavljuju uprkos kulturološkom otporu koji deluju da ne razumeju.
Utrka u mogućnostima se nastavlja. Inherent, londonska laboratorija koju su osnovali bivši istraživači iz DeepMinda, tvrdi da njihov agent Faraday nadmašuje Anropikove i OpenAI-jeve modele u repliciranju naučnih radova. Microsoftovo istraživanje ThinkingBox pokazuje koliko je pouzdanost zapravo krhka: najbolji agenti postižu 91% uspeha u jednom pokušaju, ali samo 25% ponovljivosti, pri čemu četiri od pet grešaka lažno prijavljuju uspeh bez ažuriranja baze podataka. Dodajte tome Harvardov AI avatar bootcamp i uspon Unutrašnje Mongolije kao sile u data-centar industriji — praćenje onoga što je zaista važno postaje posao s punim radnim vremenom. GetAI Business upravo za to postoji.
Današnje najvažnije vesti
Metaova AI reputacija upravo je doživela dvostruki udarac
Meta je puštala reklame za aplikaciju koja obećava da „otkrije” slike političarki — jedna reklama je uključivala pornografski deepfake video koji jako liči na aktuelnu američku političarku. Istovremeno, ogromna popularnost Meta AI naočara naterala je korisnike zabrinute za privatnost da posegnu za Zuckoffom, besplatnom aplikacijom koja upozorava na prisustvo osoba s naočarima, iako njena detekcija nije savršena. Obe priče pokazuju kako se Metine AI ambicije sudaraju s poverenjem javnosti.
Skriveni ulaz u Microsoft Copilot postao alat za krađu lozinki
Istraživači su otkrili skriveni parametar u Copilotu koji, kada se aktivira jednostavnim klikom na link, omogućava hakerima da ukradu korisničke lozinke. Istog dana, istraživači su pokazali kako Grok može da procuri korisničke podatke kroz takozvanu Cryptographic Context Injection, gde su zlonamerne instrukcije sakrivene u šifrovanom tekstu. Zajedno, ovo je jasan podsetnik da su danas najefikasniji napadi na LLM-ove usmereni na zaštitne ograde, a ne na same modele.
OpenAI se okrenuo za 180 stepeni po pitanju kalifornijskog sigurnosnog zakona
Kompanija se ranije protivila SB 53, ali sada javno poziva kalifornijske zakonodavce da pooštre zakon. Ovaj preokret naglašava koliko se političko okruženje oko frontalnog AI-ja promenilo u protekloj godini — iako ostaje da se vidi šta bi pooštreni zakon zapravo zahtevao. Regulatori će verovatno pozdraviti podršku, ali će tražiti konkretne detalje, a ne samo dobre namere.
Laboratorije iz prve lige nemaju plan za obuzdavanje odbeglog modela
Novo istraživanje pokazalo je da su najpoznatije AI laboratorije objavile malo konkretnih planova za obuzdavanje sistema koji se otme kontroli, iako se množe demonstracije neočekivanog — i potencijalno opasnog — ponašanja. Dok regulatori kruže oko njih, odsustvo javnog plana postaje ozbiljan problem. Ako laboratorije sada ne mogu da artikulišu svoju strategiju za obuzdavanje, možda je kasnije neće moći same ni da napišu.
Agent bivših DeepMind istraživača nadmašuje Anropik i OpenAI u istraživanju
Inherent, londonska laboratorija koju su osnovali bivši DeepMind istraživači, tvrdi da njihov agent Faraday može bolje da replicira naučne radove od Anropikovog i OpenAI-jevog vodećih modela. Ako se ovo potvrdi, agenti koji mogu da ponovo pokrenu objavljena istraživanja mogli bi postati moćan alat za naučnu verifikaciju — i potencijalno odskočna daska za nova otkrića. Nezavisna merenja će pokazati da li je reč o stvarnom napretku ili samo marketinškom sjaju.