Jak bezpečně používat Claude in Chrome a nepřijít o kontrolu nad prohlížečem
Rozšíření Claude in Chrome umožňuje AI asistentovi pracovat přímo ve vašem prohlížeči. Kliká, vyplňuje formuláře, přepíná záložky. S tím ale přichází i rizika, od nechtěných akcí po prompt injection útoky. Tady je praktický návod, jak rozšíření nastavit a používat tak, abyste měli situaci pod kontrolou.
Claude Dispatch a Computer Use umožňují ovládat AI asistenta z telefonu, zatímco pracuje na vašem počítači
Anthropic posunul svého AI asistenta Claude o výrazný krok dál. Nová funkce Computer Use mu umožňuje klikat, psát a procházet aplikace přímo na vašem počítači. V kombinaci s funkcí Dispatch, která propojuje desktop s mobilním telefonem, vzniká AI agent, kterému zadáte úkol z telefonu a on ho sám dokončí na vašem počítači – i když u něj zrovna nesedíte.
Stačí 250 zmanipulovaných dokumentů a velký jazykový model se stane zranitelným
Představte si, že by někdo mohl sabotovat chatbota jen pomocí několika set zmanipulovaných textů. Společnost Anthropic ve spolupráci s britskými bezpečnostními instituty zjistila, že k zavedení zadních vrátek do velkého jazykového modelu stačí pouhých 250 škodlivých dokumentů. Velikost modelu ani objem trénovacích dat na tom nic nemění. Co to znamená pro bezpečnost AI?
Kalifornie nasazuje generativní AI do praxe: od dopravy po zákaznickou podporu
Kalifornie opět potvrzuje svou pozici technologického lídra. Guvernér Gavin Newsom oznámil nasazení generativní umělé inteligence do klíčových oblastí státní správy – od řešení dopravních zácp přes bezpečnost na silnicích až po zrychlení zákaznické podpory. Jaké konkrétní projekty a technologie Kalifornie testuje a co to znamená pro její obyvatele?