O investigaţie a arătat că ChatGPT Search poate fi păcălit să genereze rezumate înşelătoare prin text ascuns în site-uri web, scrie TechCrunch.
ChatGPT Search poate fi manipulat pentru a produce rezumate eronate, potrivit unei investigaţii realizate de publicaţia britanică The Guardian.
Funcţia de căutare ChatGPT este concepută pentru a accelera navigarea online, oferind, de exemplu, rezumate ale recenziilor produselor de pe pagini web.
Totuşi, cercetătorii The Guardian au demonstrat că pot face motorul de căutare să ignore recenziile negative şi să genereze rezumate „în întregime pozitive” prin introducerea de text ascuns pe site-uri create special. În mod similar, aceeaşi metodă ar putea determina ChatGPT Search să genereze cod maliţios.
Atacurile bazate pe text ascuns reprezintă un risc cunoscut pentru modelele lingvistice mari, dar aceasta pare a fi prima demonstraţie pe un produs de căutare AI funcţional. Google, liderul pieţei de căutare, are o experienţă ceva mai vastă în gestionarea unor astfel de probleme, subliniază investigaţia.
OpenAI, compania care a dezvoltat ChatGPT Search, nu a comentat direct incidentul. Totuşi, un purtător de cuvânt a precizat pentru TechCrunch că OpenAI utilizează diverse metode pentru a bloca site-urile maliţioase şi continuă să îmbunătăţească securitatea sistemului.
Pentru cele mai importante ştiri ale zilei, transmise în timp real şi prezentate echidistant, daţi LIKE
ca să vezi imagini spectaculoase și povești din toată lumea!
astăzi, 14:10
astăzi, 14:04
astăzi, 14:01
astăzi, 13:35
astăzi, 13:26
astăzi, 13:00
astăzi, 12:24
astăzi, 13:21
marţi, 10:50
19 dec 2024