Intervista alla Dott.ssa Fiorella Operto

Il focus del Festival di Bioetica (Santa Margherita Ligure, 26/27 agosto 2024), giunto alla ottava edizione, si concentra sul tema INTELLIGENZE osservato da vari punti di vista e nell'impatto che l'IA ha giù avuto, e avrà, a seconda dei settori in cui è, o sarà, applicata.
Il campo di ricerca di Fiorella Operto, co-fondatrice della Scuola di Robotica di Genova, è anche quello della Roboetica. È referente per l'Italia del Progetto Roberta, che ha lo scopo di promuovere la robotica tra le ragazze delle scuole medie inferiori e superiori. Al Festival è previsto un suo intervento nel panel dedicato ai Robot e su questo argomento l'abbiamo interpellata.

Quali significati si vuole condensare nel termine ‘Roboetica’?

La Roboetica è l’etica applicata che studia gli aspetti etici, legali e sociali della Robotica Avanzata e, oggi, anche le applicazioni di Intelligenza Artificiale che sono impiegate sui robot, il Machine Learning e il Deep Learning. È stata proposta nel 2002 dal robotico Gianmarco Veruggio e noi, come Scuola di Robotica, abbiamo collaborato al suo sviluppo.

Perché occorre una Roboetica? Mi spiego.

Le macchine autonome, i robot, sono oggi dotati di capacità di apprendimento di un notevole livello di adottare decisioni autonome. Per questo, i robot raccolgono e processano quanti più dati sia possibile, con potenza computazionale, velocità ecc che non sono possibili agli umani. Dati sull’ambiente, sul comportamento degli umani, su quello di altre macchine e robot intorno, sullo stato delle reti di comunicazioni.

Infatti, gli algoritmi di machine learning di cui sono dotati i robot sono progettati per apprendere da grandi quantità di dati, consentendo ai sistemi di IA di prendere decisioni e fare previsioni senza una programmazione ad hoc preventiva ed esplicita.

Questi avanzamenti permettono ai robot delle funzioni e dei comportamenti che potremmo descrivere come più efficienti, sicuri e anche più “naturali” in ambienti antropici, popolati da umani. Il fatto che, per esempio, un robot possa essere addestrato a rispondere alle nostre richieste e che continui a migliorarne la comprensione è un grande vantaggio rispetto a doverlo riprogrammare per ogni funzione richiesta modificata.

Non solo: immaginate la necessità che robot intervengano rapidamente in situazioni di pericolo o di urgente azione, magari in contesti in cui gli umani non possano intervenire.

O, in altro ambiente, che i robot possano assistere persone con problemi di mobilità o cognitivi interpretando correttamente le loro richieste e anticipandole sulla base dei loro algoritmi di previsione.

Come Scuola di Robotica, l’associazione di cui faccio parte, stiamo collaborando in un progetto Horizon Europe - REXASI-PRO - che riguarda la realizzazione di un sistema di robot costituito da una sedia robotica e dei droni. La sedia è addestrata con diversi algoritmi a trasportare una persona con ridotte capacità motorie in un ambiente poco noto popolato da umani (può essere un ospedale, una casa di cura, o un’abitazione) e i droni hanno la funzione di fornire al robot sedia una mappa precisa e aggiornata dello stato dell’ambiente. Quali sono i problemi roboetici qui?

Soprattutto sulla necessità che il funzionamento degli algoritmi e delle reti neurali addestrate siano trasparenti, che siano comprensibili e affidabili. Che il funzionamento del sistema robot/droni offra uno stato di confort all’utente, che sia di facile uso, che i livelli di sicurezza della navigazione della sedia siano a prova di rischio e che il movimento del sistema non disturbi gli umani nell’ambiente.

Vi possono essere problemi roboetici di altra natura.

I modelli di apprendimento di robot, di machine learning, possono incorporare pregiudizi presenti nei dati di addestramento, producendo risultati discriminatori, perpetuando disuguaglianze sociali e rafforzando pregiudizi esistenti.

Inoltre, la raccolta e l’utilizzo di dati relativi al nostro essere umani (genere, credenze, fedi, culture, tendenze politiche, ecc), tutte le nostre abitudini – che le macchine autonome apprenderanno, anche per poterci “servire” meglio – le nostre cartelle cliniche, i nostri fati finanziari, sollevano questioni relative al consenso, alla privacy, alla trasparenza e al potenziale uso improprio da parte dei sistemi di intelligenza artificiale o di terzi.

Se da un lato questi dati sono fondamentali per l’addestramento dei modelli di IA e per migliorarne l’accuratezza, dall’altro destano preoccupazione per le modalità di archiviazione, accesso e protezione di queste informazioni. Uno dei principali problemi etici legati alla privacy dei dati in un mondo di macchine autonome e IA è il potenziale di accesso non autorizzato o di uso improprio delle informazioni personali. Noi utenti spesso non siamo consapevoli di come i nostri dati personali siano raccolti o utilizzati da sistemi autonomi.

Trasponete tutti questi problemi nei contesti di uno dei settori più critici in cui siano impiegati sistemi autonomi e robot: le guerre. Le armi autonome letali sono molto diffuse, dai droni a robot mobili e sono di difficilissimo controllo. È in corso una campagna per mettere al bando le armi robotiche letali.

Come vediamo, le questioni sono diverse e importanti e toccano molte discipline, non solo ingegneristiche. In Italia vi è una sensibilità ai problemi di roboetica e vi sono stati diversi interventi autorevoli, con una diffusa attenzione anche da parte della popolazione.

Qual è, oggi, lo stato di salute della ricerca nel campo della robotica in Italia?

L’Italia è una nazione interessante dal punto di vista dell’impiego di robot nella manifattura, con una crescita continua delle installazioni e, nel 2024, una contrazione dovuta probabilmente a un effetto mondiale. Durante gli anni del Covid, i robot hanno sostituito l’assenza di personale umano. Se si eccettua il settore dell’automotive, dove l’Italia è in posizione sfavorevole anche per via delle vicende legate alle operazioni internazionali della ex FIAT, l’industria manifatturiera italiana impiega robot nelle produzioni di apparecchiature, macchinari, metallurgico, alimentare e farmaceutico, nei quali il numero di robot installati è cresciuto nell'ultimo decennio più che in altre nazioni.

In Italia, le fragilità della struttura della manifattura italiana e del mercato del lavoro sono tali che esiste un reale rischio che l’introduzione della robotica, oggi invero soprattutto dell’Intelligenza Artificiale, elimini posti di lavoro, collegato principalmente alle professioni che riguardano la gestione e l’impiego dei dati.

Quello che è necessario, e a Scuola di Robotica stiamo insistendo molto, è informare i giovani e le famiglie sul futuro delle professioni, quelle ingegneristiche sono le più richieste. Ma, al di là di una scelta definitiva, che può anche non essere ingegneristica, occorre in Italia promuovere un generale attivo interessamento a che nell’orientamento agli studi sia sempre previsto un curriculum dedicato all’uso di programmi di IA e di robot, questo per il proprio personale aggiornamento come cittadino/a attivo.

Cosa può dirci della presenza femminile in questo settore?

Occorre senza dubbio un aumento della partecipazione delle ragazze e delle donne nel settore della robotica e IA, che è frequentato soprattutto da maschi. E ancora, al di là della scelta professionale, l’aumento importante di bambine, ragazze e donne che siano interessate - che abbiano “messo le mani” su un robot – modificherebbe, secondo me in meglio, il panorama complessivo degli studi, delle ricerche e delle applicazioni in robotica.

Intervista realizzata a cura di Tiziana Bartolini