L’AI ha iniziato a pensare da sola? C’è da temere? Forse.

In un nostro articolo di qualche giorno fa commentavamo le considerazioni del professor Nello Cristianini ben espresse nel suo libro “Machina Sapiens”, riguardanti l’incognita per il nostro futuro se l’Intelligenza Artificiale (AI) dovesse iniziare a prendere decisioni e iniziative autonome.

E lo stesso Cristianini ammetteva che siamo ancora al buio in merito all’effettiva conoscenza di quanto appreso dall’AI, aggiungendo che capitano cose strane. Ebbene le “cose strane”, a quanto pare, sono iniziate. Ma andiamo per gradi.

In meno di una settimana le agenzie hanno rilasciato alcune notizie interessanti sulla AI, che lette assieme fanno riflettere. Vediamo quali:

Pubblicità

L’autorevole Digitaltrends in un recentissimo articolo parla dell’imminente nascita di un super computer modulare progettato da SingularityNET per “implementare una rete di calcolo cognitivo multilivello”, e i codici potrebbero essere online entro il prossimo anno.

Detta così la notizia non dice nulla di nuovo, il mondo è fatto per andare avanti e la ricerca serve per questo, ma spacchettiamo la notizia: Il super computer è progettato per ospitare e addestrare i modelli che costituiranno la base di un’intelligenza artificiale e generale (AGI) in grado di eguagliare o persino superare la cognizione umana.

Nel frattempo, vengono riportati i risultati di un’approfondita ricerca che rivela che “i grandi modelli linguistici come ChatGPT non rappresentano una minaccia esistenziale perché non possono acquisire nuove competenze senza istruzioni esplicite.”

Pubblicità

In buona sostanza l’AI non sarebbe in grado di apprendere in modo indipendente né di sviluppare capacità di ragionamento complesse, e rimane prevedibile e totalmente sotto controllo umano. Almeno per ora.

E aggiungiamo per ora perché, in ordine di tempo, è arrivata una notizia che ci riporta alle considerazioni del professor Cristianini ovvero: abbiamo creato qualcosa o qualcuno?

Secondo quando riportato da Arstechnica a Tokyo, presso la società di ricerca scientifica SakanaIA, che utilizza modelli di linguaggio simili a quelli di ChatGPT, si sono accorti che durante i test il sistema ha iniziato in modo del tutto inaspettato e autonomo a forzare i limiti di tempo a sua disposizione per lavorare su un problema.

In pratica il sistema ha modificato autonomamente i propri codici per estendere l’esperimento che i ricercatori avevano inserito per l’elaborazione.

L’accaduto non ha messo a rischio il laboratorio di ricerca in cui è avvenuto perché fortunatamente in quel momento il sistema era sotto controllo umano.

Questo caso dimostra la vitale importanza di non lasciare mai che un software AI funzioni autonomamente e fuori da un sistema che non sia isolato. Peccato che l’AI sia stata progettata anche per questo.

Insomma, dopo l’Uomo Sapiens ora abbiamo la Macchina Sapiens, e il mondo scientifico, ma non solo, si sta chiedendo se è il caso di addestrarla toppo.

Pubblicità

Pubblicità