L'intelligenza artificiale DeepMind di Google diventa 'altamente aggressiva' quando è stressata. Skynet, chiunque?

DeepMind di Google è uno degli esempi più famosi di intelligenza artificiale.

L'anno scorso ha sconfitto notoriamente il miglior giocatore di Go del mondo al complicato gioco da tavolo cinese. È anche essere utilizzato al Moorfields Eye Hospital riconoscere le malattie degli occhi dalle scansioni.

sono una celebrità john

Ma una nuova ricerca mostra che DeepMind reagisce alle situazioni sociali in modo simile a un essere umano. In particolare, ha iniziato ad agire in 'maniera aggressiva' quando è stato messo sotto pressione.

Gli informatici di Google hanno eseguito 40 milioni di turni diversi Assembramento un videogioco di raccolta di frutta che chiedeva a due diversi partecipanti di DeepMind di competere l'uno contro l'altro per raccogliere il maggior numero di mele.

Il logo DeepMind

Quando c'erano abbastanza mele da condividere, i due combattenti informatici stavano bene, raccogliendo in modo efficiente il frutto virtuale. Ma non appena le risorse sono diventate scarse, i due agenti sono diventati aggressivi e hanno cercato di buttarsi fuori gioco a vicenda e rubare le mele.

Il video qui sotto mostra il processo - con i 'giocatori' di DeepMind rappresentati in rosso e blu mentre le mele sono verdi. I raggi laser sono gialli e, sebbene i combattenti non ricevano alcuna ricompensa per un colpo, mette fuori gioco l'avversario per un determinato periodo di tempo.

'Descriviamo il modo in cui il comportamento appreso in ogni dominio cambia in funzione di fattori ambientali, inclusa l'abbondanza di risorse', il team scritto su un giornale spiegando i loro risultati.

mary berry e paul hollywood natale

'I nostri esperimenti mostrano come il conflitto può emergere dalla competizione per le risorse condivise e gettano luce su come la natura sequenziale dei dilemmi sociali del mondo reale influenzi la cooperazione.

les dennis e amanda holden

(Immagine: Getty)

'Abbiamo notato che le politiche apprese in ambienti con bassa abbondanza o alto costo di conflitto erano altamente aggressive mentre le politiche apprese con alta abbondanza o basso costo di conflitto erano meno aggressive. Cioè, il gioco del Gathering prevede che il conflitto possa emergere dalla competizione per risorse scarse, ma è meno probabile che emerga quando le risorse sono abbondanti.'

I risultati sono interessanti in quanto mostrano che i computer sono in grado di adattarsi alle situazioni e modificare di conseguenza il loro comportamento.

Molti esperti hanno messo in guardia sui pericoli della vera intelligenza artificiale nelle macchine. Elon Musk ha individuato DeepMind in particolare come uno da tenere d'occhio.

'Il ritmo del progresso nell'intelligenza artificiale (non mi riferisco all'IA ristretta) è incredibilmente veloce. A meno che tu non abbia un'esposizione diretta a gruppi come DeepMind, non hai idea di quanto velocemente: sta crescendo a un ritmo vicino all'esponenziale', ha scritto nel 2014.

Elon Musk è preoccupato per l'intelligenza artificiale (Immagine: Bloomberg)

linea della mascella di eva speakman

'Non sono il solo a pensare che dovremmo preoccuparci.'

'Le principali aziende di intelligenza artificiale hanno adottato grandi passi per garantire la sicurezza. Riconoscono il pericolo, ma credono di poter modellare e controllare le superintelligenze digitali e impedire a quelle cattive di fuggire su Internet. Resta da vedere...'

Quindi, mentre i computer super intelligenti di Google possono accontentarsi di picchiarsi a vicenda in una corsa per raccogliere mele virtuali, le prospettive per il futuro potrebbero essere preoccupanti. Soprattutto se ti chiami Sarah Connor.