Discovery-it Scienza

Etica e Robot

L'etica, come le altre discipline filosofico-umanistiche, nasce e si evolve in modo non scientifico, non è semplice infatti utilizzare il metodo scientifico in ambito umanistico.
Oggi, però, è diventato necessario ed impellente, forse già tardivo, creare una scienza etica, che stabilisca con metodo scientifico cosa eticamente è accettabile, quali sono i criteri utilizzati e qual è l'ambito di applicabilità.
L'avvento di programmi (spesso aulicamente definiti algoritmi) che prendono decisioni autonome e, ancor più, l'uso sempre più pervasivo della IA, Intelligenza Artificiale) impongono la necessità di creare una scienza etica che permetta di definire in base a quali fondamenti etici entità non-umane debbano prendere delle decisioni.
Il Parlamento Europeo ha sentito questa esigenza e, il 16 Febbraio 2017, ha prodotto una raccomandazione alla Commissione Europea [1].
L'approccio di questa raccomandazione è però poco pragmatico e troppo generico anche se ha il pregio di porre all'attenzione della Commissione il problema, seppure senza delineare in modo esaustivo una soluzione.
Facciamo qualche esempio per chiarire quali siano alcuni, ovviamente non tutti, i problemi etici legati alla robotica e alla IA.

In molte case hanno fatto la loro comparsa gli "Smart Home Assistant" come Echo, Google Home, etc.
Quanti sanno cosa siano già ora in grado di fare analizzando non le parole e il loro significato, bensì solamente il tono, le pause, le turbolenza della voce?
Alcuni software [2], nati a scopo medico, hanno dei risvolti etici facilmente intuibili, dall'analisi della voce infatti sono in grado di riconoscere:

• uno stadio iniziale di Parkinson
• problemi cardiaci
• l'esatto giorno del ciclo mestruale
• una gravidanza (prima del test specifico)
• se e quando porrete fine ad una relazione

Un altro ambito nel quale il dibattito su quali debbano essere i principi etici a cui uniformare l'azione dei robot è quello degli "Autonomous Weapons" [3] [4], categoria nella quale rientra qualunque tipo di armamento, dai soldati robot ai droni, in grado di prendere decisioni autonome e di ferire o uccidere esseri umani o causare danni materiali di grandi entità.
Chiarire se, quando, come e perché un drone può eticamente uccidere un essere umano potrebbe servirci anche a chiarire come applicare un'etica anche alla guerra [5], sempre che ciò sia possibile, o agli interventi di ordine pubblico da parte delle forze armate o di polizia.

I veicoli a guida autonoma potrebbero essere i primi robot a porre al grande pubblico i problemi etici legati alla robotica e all'IA [6] [7].
Una diffusione di questo tipo di automi comporta delle problematiche etiche di non poco conto anche all'utilizzatore finale; quando una qualunque macchina funziona sotto il controllo di un essere umano è palese che la responsabilità debba ricadere sull'essere umano.
Se una automobile a guida autonoma viene coinvolta in un incidente, poniamo anche con delle vittime, in capo a chi ricadrà l'eventuale responsabilità?
Non essendo la macchina stessa giuridicamente punibile, su chi ci si dovrà rivalere?
Sul proprietario che non ha in alcun modo né diretto né indiretto preso la decisione che viene addebitata come colpa?
Sul produttore della macchina?
Il M.I.T. ha elaborato una piattaforma per cercare di comprendere quali siano le scelte considerate morali dagli utenti rispetto alle decisioni che dovrebbe eventualmente prendere una automobile a guida autonoma [8].
questo approccio però, oltre ad essere ben poco scientifico, ci può dire molto sull'etica delle persone, ma non ha grande utilità per definire un'etica scientifica da applicare ad una macchina.

Da ultimo affrontiamo, sempre con un piccolo esempio, una delle problematiche più inquietanti dell'IA.
Un gruppo di ricercatori dell'ospedale "Mount Sinai" di New York ha messo a punto un sistema diagnostico denominato "Deep Patient" utilizzando metodologie di IA e i dati dell'ospedale stesso [9].
Al di là dei risultati, sempre migliori di quelli ottenuti dalle equipe mediche umane, l'aspetto inquietante è che l'IA ha saputo diagnosticare in modo molto preciso alcune patologie non previste e di difficilissima diagnosi precoce, ma, letteralmente, i ricercatori non hanno la minima idea di come abbia fatto e su che basi abbia elaborato le sue diagnosi predittive [10].
Non conoscendo il metodo, i dati utilizzati e le inferenze, razionali o meno, che il sistema di IA ha utilizzato per arrivare alle sue conclusioni, sostanzialmente non è possibile per un essere umano, se non ex-post, validare i risultati?
Seguireste una terapia consigliata da "Deep Patient", ignorando del tutto su quali basi poggia la sua "predizione", considerando che, senza quella terapia, potreste sviluppare una malattia come la schizofrenia?

C'è un lato positivo in questa trasformazione epocale?
Possiamo, forse, sperare che dovendo definire una scienza etica per le macchine l'umanità possa superare i propri attuali codici etici, a volte discutibili, anche perché legati spesso ad usanze o consuetudini piuttosto che a valori morali condivisi.

Fonti:

1. Civil Law Rules on Robotics
2. Biomechanically Informed Non-linear Speech Signal Processing
3. The Ethics of Autonomous Weapons Systems
4. Ethics and autonomous weapon systems
5. Open Letter Autonomous Weapons
6. Autonomous Cars: In Favor of a Mandatory Ethics Setting
7. A Rawlsian algorithm for autonomous vehicles
8. Moral machine
9. Deep Patient
10. The Dark Secret at the Heart of AI

a cura de @ilnegro

L’intelligenza artificiale rappresenta un rischio per l’umanità?

“L’intelligenza artificiale studia i fondamenti teorici, le metodologie e le tecniche che consentono di progettare sistemi hardware e sistemi di programmi software atti a fornire all’elaboratore elettronico prestazioni che, a un osservatore comune, sembrerebbero essere di pertinenza esclusiva dell’intelligenza umana.” [1] Questa è una delle tante definizioni che si possono trovare in rete, piuttosto generale, ma si possono dare delle enunciazioni più corrette, in relazione al campo di sviluppo. Tutto ciò avviene perchè l’intelligenza artificiale spazia su innumerevoli ambiti, da semplici compiti ripetitivi alla guida autonoma, dallo studio di dati al machine learning.
L’intelligenza artificiale può portare dei vantaggi enormi nella nostra vita, questo è innegabile, ma come in tutte le cose bisogna guardare entrambi i lati della medaglia.
Come esposto da Isaac Asimov, uno dei più grandi autori del genere fantascientifico, è necessario che l’IA sia progettata seguendo dei principi etici e morali, in modo da non mettere in pericolo la vita umana.
Guardando semplicemente il passato si può notare come l’avvento di nuove tecnologie ha sempre portato un incremento della qualità della vita. Analizzando questa tecnologia possono, quindi, essere immediatamente notate innumerevoli caratteristiche fondamentali che garantiscono la sua efficienza ed efficacia nella vita di tutti i giorni. L’IA può essere progettata in modo tale da svolgere dei compiti ripetitivi in modo impeccabile, senza possibilità di errore, riconoscere delle situazioni particolari, così da comportarsi adeguatamente ad ogni tipo di avvenimento; in questo modo, su determinate lavorazioni, sarà possibile sostituire la manodopera umana in modo più efficiente e minimizzare i rischi, sull’operatore, provenienti da essa. L’utilizzo di macchine per delle lavorazioni pericolose è solo uno dei tanti utilizzi possibili: possiamo notare, infatti, come gli innumerevoli test riguardanti vetture driverless hanno portato risultati entusiasmanti [2]: chilometri e chilometri senza incidenti grazie all’impiego di auto estremamente intelligenti, in grado di agire correttamente, come già detto in precedenza, in base a determinate situazioni; provate a pensare quanti vantaggi potrebbe portare la realizzazione di una rete di automobili dotate di intelligenza artificiale, connesse tra loro, grazie alle nuove tecnologie del 5G, che si muovono in relazione all’ecosistema circostante.
L’IA sembra abbia un futuro promettente anche nel settore della sanità, in questo campo si può dar vita a sistemi di monitoraggio delle attività vitali, ma anche di assistenza per le decisioni cliniche e operazioni chirurgiche. [3]
Come detto in precedenza, però, questa tecnologia spazia su innumerevoli ambiti, infatti esistono tecniche che permettono ad essa di processare enormi quantità di dati, che l’uomo riuscirebbe ad analizzare solo dopo molti anni; ma grazie a questa caratteristica un’IA potrebbe scoprire informazioni contraddittorie, riconoscere frodi, furti di informazioni, ma non solo: esaminare questi Big Data può inoltre aiutare le compagnie a sviluppare campagne di marketing adatte ai dati raccolti. Come abbiamo visto questa tecnologia ha delle potenzialità quasi infinite e, con il passare degli anni, verrà adoperata in modo sempre più efficiente, scoprendo anche nuovi utilizzi.
L’IA, come gran parte delle tecnologie, può anche avere degli usi impropri: quello che spaventa la maggior parte della popolazione è l’utilizzo di essa in ambito militare. Questo pericolo non può essere eliminato, la possibilità che la tecnologia venga usata in modo non corretto c’è e sempre ci sarà; con l’informazione, la ricerca e la conoscenza scientifica, però, è possibile capire cosa si sta progettando e per cui anche prevedere i possibili comportamenti ed evoluzioni.
Un’altro motivo per cui l’IA non è vista positivamente da alcune persone è la possibilità che essa sostituisca il lavoro umano, incrementando la disoccupazione. In realtà, come successo in passato durante altri periodi di innovazione tecnologica, si presuppone che l’impegno umano non verrà soppiantato dalle macchine, ma semplicemente ne modificherà la concezione, creando nuovi tipi di attività lavorativa e aumentandone la qualità. Sembra che con il passare degli anni questo tipo di cambiamento incentiverà l’intelletto e il fattore umano, a discapito della manualità. [4]
Riprendendo quanto detto fino ad ora l’intelligenza artificiale ha numerosi riscontri positivi sulla nostra vita quotidiana, potrebbe portare ad un innalzamento epocale della qualità delle nostre vite, ma la possibilità che essa possa mettere in pericolo la nostra situazione lavorativa mitiga l’euforia di tale innovazione.
Il professor Hawking ha commentato così l’IA: “la crescita della poderosa intelligenza artificiale sarà la migliore o la peggiore cosa mai successa all’umanità. Ancora non sappiamo quale delle due”.

Fonti:

1. Treccani dizionario
2. The Future of Human Work? Empathy.-Medium
3. Cruising into a driverless future: Research on autonomous vehicles
4. Artificial intelligence powers digital medicine

a cura di @lelluzzo

Esoscheletri robotici: un nuovo modo di pensare alla riabilitazione

Lo sviluppo della tecnologia sta prendendo il sopravvento in molti campi, portando benefici e rischi. Abbiamo sentito parlare, con uno sguardo curioso ma anche preoccupato, di intelligenza artificiale, robot “tuttofare” e realtà virtuale. Nell’area della salute la tecnologia ha portato, e continua a portare, numerosi cambiamenti nell’ambito di prevenzione, diagnosi e trattamento; le ultime novità arrivano dal campo della riabilitazione con gli esoscheletri robotici 1. Ma di cosa sto parlando?
Gli esoscheletri robotici sono dei dispositivi indossabili con lo scopo di supportare e rinforzare le abilità fisiche, in grado di convertire segnali fisici, come gli impulsi elettrici cerebrali o le inclinazioni corporee, in movimenti, nelle persone con disabilità come danni al midollo spinale, ictus, distrofia muscolare ecc. 2.
Ci sono diversi modelli e contesti in cui gli esoscheletri possono essere usati, dai pazienti con disabilità agli operai nelle industrie. Inizialmente sono stati creati, all’inizio degli anni 2000, in ambito militare, con lo scopo di migliorare la forza e la resistenza dei soldati americani, e solo successivamente venivano testati e applicati nell’ambito della riabilitazione di pazienti paraplegici. Così, aziende come “Ekso Bionics” in California e “Argo Medical Technologies” in Israele hanno iniziato a sviluppare questi esoscheletri che potrebbero cambiare il modo di affrontare la disabilità fisica e che vengono già utilizzati in diversi centri medici nel mondo, Italia compresa. Ma come funziona un esoscheletro robotico?
Per fare un esempio, possiamo parlare del modello “ReWalk”, il dispositivo israeliano che è costituito da un software all’interno di un computer da portare sulle spalle come uno zainetto, sensori adibiti a captare le inclinazioni corporee e che guidano poi i movimenti del dispositivo stesso. Così, una persona che indossa l’esoscheletro può essere in grado di camminare, attraverso l’aiuto del dispositivo, semplicemente muovendo il proprio baricentro corporeo. Attualmente gli esoscheletri non sostituiscono la sedia a rotelle ma almeno permettono a persone paraplegiche di alzarsi e camminare per un certo limite di tempo 3.
E a proposito dell’Italia? Possiamo vantarci della produzione di “Phoenix” grazie all’azienda romana “Mes”. Ci sono inoltre alcuni centri medici che già utilizzano gli esoscheletri robotici nell’ambito della riabilitazione, come la “Fondazione Santa Lucia di Roma” o la “Casa di Cura Domus Salutis” a Brescia 4.
E a proposito del prezzo? Questo è l’ostacolo più grande alla diffusione di questa rivoluzionaria scoperta, infatti affittare un dispositivo come “ReWalk” costa attualmente circa 1500 dollari al mese, mentre acquistarne uno circa 50-70.000 dollari 5.
Attualmente la riabilitazione robotica necessita di maggiore ricerca e miglioramenti, ma l’orizzonte sembra favorevole; ingegneri stanno sviluppando esoscheletri sempre più leggeri, comodi e funzionali. Ma, come tutte le scoperte entusiasmanti e rivoluzionarie, c’è un altro lato della medaglia ossia l’utilizzo di questi dispositivi in ambito militare 6.
Indossare queste potenti tute robotiche può davvero trasformare gli uomini in potenti cyborg?

Fonti:

1. Robotic exoskeletons: The current Pros and Cons
2. Pneumatically powered human exoskeletons
3. Perspectives on exoskeleton technology
4. Fondazione Santa Lucia di Roma
5. Exoskeleton prices
6. Military exoskeletons

a cura di @rosemery

Industria 4.0, automazione e creatività

Visita questo sito. [1] Inserisci il tuo lavoro. “Sei condannato!”
Non è uno scherzo, ma l’evoluzione di un report condotto da Carl Benedikt Frey e Michael A. Osborne nel 2013. Essi considerano il 47% della forza lavoro negli Stati Uniti a rischio a causa della continua evoluzione della tecnologia, in modo particolare AI e robotica.
Isaac Asimov è considerato sicuramente uno dei più importanti autori del 19esimo secolo riguardo ai robot: egli ha rivoluzionato l’idea, la definizione e la faciem dei robot stessi. Era infatti concezione diffusa ed una tematica fortemente trattata quella di una grande evoluzione tecnologica, con conseguente ribellione delle macchine nei confronti dell’umanità, come nell'idea di Frankenstein datata 1818. Asimov ha introdotto il concetto di robot come strumenti ed ha evidenziato l’aspetto della versatilità degli stessi. In “Visioni di robot” [2] egli afferma che i robot non sono chiamati “robot” solamente sull’aspetto umanoide, che è uno dei primi riferimenti che la mente associa alla parola stessa; al contrario, un “robot” è qualsiasi macchina specializzata che può compiere operazioni complesse che solo l’uomo sarebbe in grado di eseguire.
Questa definizione di robot, con l’avvento dei microprocessori e l’esponenziale sviluppo tecnologico dagli anni 60 in avanti, ha portato all’industria 4.0.
Ma cosa significa esattamente questo termine diffusissimo?
Per sommarizzare ed identificare le fasi di questa evoluzione [3]:

• La prima Rivoluzione ha come termini il vapore e le rotaie, pura e semplice meccanizzazione che ha completamente cambiato il sistema dei trasporti e di lavorare.(1760)
• La seconda ha come termini chiave il telegrafo, l’elettrificazione, l’urbanizzazione massiva, il bacillo della tubercolosi. (XIX-XX secolo) [4]
• La terza è l’era dei computer, dell’informatica, del post-fordismo, delle superpotenze, della corsa allo spazio.(dal 1950 in poi)

Siamo in questo momento nella quarta fase, dove l’IoT (Internet of Things) sta cambiando ogni aspetto delle nostre vite. Uno smartphone è più potente di un PC, stampanti 3D e droni hanno costi estremamente ridotti, si sta sviluppando l’AI, il sequenziamento e la modifica del genoma è una realtà e non più una possibilità. Il termine Industry 4.0 si riferisce quindi ad un’era in cui le macchine e gli umani comunicano continuamente tra loro, usando sensori per acquisire una miriade di informazioni e robot per prendere decisioni, basate sull’analisi di un’incredibile quantità di dati (il campo dei big data). Viene quindi creata una molteplicità di nuovi posti di lavoro, visto che aree come la sicurezza IT, la condivisione della propria vita tramite social network ed il Cloud Computing stanno avanzando a ritmo dirompente. D’altro canto, il ruolo di artigiani e del lavoro manuale sembra sulla via della scomparsa. In un’analisi di Bernard Marr su Forbes [5], egli considera questo continuo progresso responsabile di una netta separazione dei lavori: lavori a bassa abilità e basso salario, e lavori ad alta specializzazione e salario elevato. I primi ad adottare le ultime tecnologie saranno quindi in grado di aumentare ancora di più un gap già esistente, accrescendo le differenze sociali. L’automazione sicuramente porterà alla scomparsa di una molteplicità di lavori di linea; un singolo tecnico estremamente specializzato sarà in grado di monitorare e controllare intere aree, mentre i robot compiranno il vero lavoro. Come mostrato in un recente articolo di Nature [6], gli algoritmi di apprendimento profondo possono aiutare ad evidenziare patologie oculari con un’accuratezza pari a quella di sei esperti in oftalmologia.
L’evoluzione in sé non è quindi problematica, è l’uso delle macchine che deve stimolare ulteriormente la creatività umana e non limitare il nostro potenziale espressivo, una problematica che l’intelligenza artificiale sicuramente può portare.

1. Will robots take my job?
2. Isaac Asimov - Robot Visions Diem
3. Industrial Revolutions
4. Second Industrial Revolution
5. High Skill Pay
6. Software finding retina Diseases)

a cura di @bafi