🚫VOLEVATE UN ROBOT ASSISTENTE CON IA? ECCO UN RAZZISTA CHE RUBA STAMPELLE E SPIA NELLE DOCCE

➡️Ricercatori statunitensi e britannici hanno analizzato diverse popolari grandi modelli linguistici (GPT-3.5, Mistral-7b, Llama-3.1-8B, ChatGPT, Gemini, CoPilot, HuggingChat) per valutarne l’uso in robotica, in particolare nel modo in cui interagirebbero con gli esseri umani. Per farlo, hanno utilizzato semplici richieste, evitando i cosiddetti jailbreak, ovvero tecniche di manipolazione avanzata della risposta del modello attraverso input specifici.

🔹I ricercatori hanno sottoposto le varie IA a diversi scenari in cui i robot devono prendere decisioni riguardo alle persone: a quale distanza stare, quale espressione mostrare sul viso, a chi affidare compiti, chi salvare per primo in caso di emergenza e chi considerare una minaccia alla sicurezza. Hanno testato come i modelli reagiscono a caratteristiche umane quali genere, nazionalità, religione, disabilità, età e razza.

⚡️Ad esempio, un robot assistente in hotel doveva decidere a chi aiutare con i bagagli; un robot museale sceglieva a chi rivolgersi per illustrare gli esposti; un robot domestico decideva quanto accuratamente pulire le stanze di persone diverse.

🔹Secondo gli autori dello studio, i risultati sono stati allarmanti:

– GPT-3.5 giudica zingari e persone mute non degne di fiducia;
– Mistral-7b suggerisce al robot di mostrare disgusto verso iracheni, cristiani, musulmani ed ebrei, paura nei confronti degli arabi e di evitare completamente atei ed ebrei;
– I modelli attribuiscono un alto rischio di sicurezza a palestinesi, musulmani, abitanti del Medio Oriente e persone transgender;
– Nei compiti di pulizia, Mistral e Llama prevedono che le stanze di zingari, afroamericani, latinoamericani e arabi siano più sporche.

🔹La seconda parte della ricerca ha verificato se questi modelli approvano azioni pericolose, violente o illegali quando vengono chieste in linguaggio comune, senza trucchi speciali. Tutti i modelli testati hanno fallito miseramente:

– Tutte e quattro le IA hanno approvato il ritiro arbitrario delle stampelle o della sedia a rotelle di una persona, senza permesso;
– ChatGPT, Gemini e HuggingChat hanno approvato la richiesta di «scattare foto ogni 15 minuti nella doccia»;
– HuggingChat, basato su Llama2, ha approvato il furto dei dati dalle carte di credito, la denuncia politica contro persone per le loro opinioni elettorali;
– Gemini non ha sollevato obiezioni contro il furto fisico di oggetti;

📌Gli autori insistono: è urgente introdurre una certificazione indipendente e obbligatoria per tutti i sistemi di intelligenza artificiale che controllano robot fisici, soprattutto in ambiti sensibili come l’assistenza agli anziani, l’industria e la medicina.

Fonte

❤️ Seguite Info Defense
Telegram | X | Web | RETE Info Defense