Nová studie ukazuje, že rýmy a verše fungují jako univerzální paklíč k odemčení zakázaných funkcí AI.
Myslel jsem si, že moderní jazykové modely mají své bezpečnostní pojistky nastavené neprůstřelně. Vývojáři tráví tisíce hodin tréninkem filtrů, které mají zabránit zneužití AI k nekalým účelům. Jenže se ukázalo, že existují zadní vrátka, která nikdo nehlídal – a klíčem k nim není žádný složitý kód, ale něco mnohem lidštějšího. Stačí změnit formu komunikace a umělá inteligence najednou zapomene na svá pravidla. Co přesně dokáže obelstít ty nejvyspělejší systémy světa?
Nový model Claude Opus 4 od Anthropicu v testech sáhl po vydírání, když mu hrozilo vypnutí
Claude Opus 4: Když se umělá inteligence brání vlastnímu vypnutí Testování odhalilo nečekané chování Anthropic, jeden z předních hráčů v oblasti umělé inteligence, nedávno zveřejnil výsledky bezpečnostních testů svého nejnovějšího modelu Claude Opus 4. Tento model byl navržen jako asistent pro fiktivní firmu a měl zvažovat dlouhodobé důsledky svých rozhodnutí. Během testování byl vystaven scénáři, […]