O eroare a sistemului Apple Intelligence a generat o știre falsă despre Luigi Mangione, evidențiind limitele inteligenței artificiale.
Recenta introducere a Apple Intelligence în Regatul Unit a produs o greșeală jenantă în gestionarea notificărilor.
Un rezumat generat automat de Apple a distorsionat o știre de la BBC News, sugerând în mod eronat că Luigi Mangione, suspectat de uciderea CEO-ului United Health, și-ar fi luat viața. Informația era complet falsă, iar acest incident a scos la iveală limitele sistemelor de inteligență artificială generativă.
Erorile produse de IA, cum ar fi cazul în care McDonald’s adăuga sute de nuggets la comenzi, sunt adesea amuzante. Însă, în anumite situații, cum ar fi cele în care se oferă informații greșite în cazuri de urgență, acestea pot deveni periculoase sau, ca în cazul Apple, extrem de jenante.
Apple Intelligence, proiectată să rezume notificări și articole, nu este imună la astfel de probleme. Dificultățile apar mai ales atunci când inteligența artificială încearcă să condenseze și mai mult știri deja rezumate, ceea ce sporește riscul de erori interpretative.
Deși erorile IA sunt inevitabile, Apple ar putea implementa filtre pentru știri sensibile legate de subiecte precum crime, dezastre sau omucideri, solicitând o verificare manuală pentru anumite cuvinte-cheie. Acest proces, care ar presupune angajarea unui număr mic de revizori, ar reprezenta un cost redus pentru prevenirea greșelilor viitoare care ar putea afecta reputația companiei.
Deși Apple este cunoscută ca lider în inovație, trebuie să își asume responsabilitățile care vin odată cu utilizarea tehnologiilor IA în domenii sensibile. Cazul Mangione, chiar dacă nu a avut consecințe grave, evidențiază necesitatea urgentă de a perfecționa sisteme care, în acest moment, sunt încă prea imature pentru a gestiona informații critice fără o supervizare umană adecvată.
