Paolo Benanti

thumb|Father Paolo Benanti in 2016 Paolo Benanti, TOR (born 20 July 1973) is an Italian Catholic priest, theologian and academic. He is a member of the Third Order Regular of St. Francis. He teaches at the Pontifical Gregorian University and was advisor to Pope Francis on issues of artificial intelligence and technology ethics. Quotes Interviews Isabel Recavarren, Rev. Padre Paolo Benanti e l’etica dell’AI, panoramical.eu, 3 February 2024 È chiaro che più ci astraiamo da un livello nazionale, più le cose sono anche fragili e deboli. È evidente che noi abbiamo conosciuto la più grande stagione di pace che ricordiamo ultimamente, anche se l’abbiamo chiamata “guerra fredda”, in forza anche di questi Trattati Internazionali. Pensiamo a quello che abbiamo fatto “Trattato Start” sulle armi nucleari o quant’altro, dove oggettivamente c’era bisogno non solo del trattato ma di costruire un clima di dialogo e di crescente fiducia, e vediamo adesso come gli effetti del “Trattato Start” sembrano non essere più adeguati a gestire la complessità. Quindi, questa è una cosa che emerge anche nei lavori delle Nazioni Unite è importante la diplomazia, è importante quella capacità di dialogo, è importante riuscire a mediare nei territori di dialogo nei quali si possa instaurare quella che normalmente si chiama una “win-win situation” cioè una situazione in cui l’equilibrio di interessi tra le parti ha maggiore interesse a mantenere l’equilibrio che non a fare altre relazioni. Questo ha bisogno chiaramente non solo di preparare il terreno culturalmente perché emerga una necessità culturale di tale trattato ma anche di individuare qual è l’organismo più adatto e la forma più efficace per fare tutto questo. C’è qui una sfida particolare, non riguarda direttamente le intelligenze artificiali, ma per evidenziare qual è la differenza radicale tra il mondo digitale e il mondo tradizionale. Quando abbiamo fatto un trattato sulle armi nucleari un trattato di non proliferazione, uno dei modi era quello di garantire, con alcune ispezioni di verificare gli arsenali. It is clear that the more we abstract ourselves from a national level, the more fragile and weak things are also. It is evident that we have known the greatest season of peace that we remember lately, even though we have called it “the cold war”, by virtue also of these International Treaties. Let us think about what we have done “the Start Treaty” on nuclear weapons or whatever, where objectively there was a need not only for the treaty but to build a climate of dialogue and growing confidence, and let us now see how the effects of the “Start Treaty” no longer seem adequate to manage complexity. So, this is something that also emerges in the work of the United Nations. Diplomacy is important, that capacity for dialogue is important, It is important to be able to mediate in areas of dialogue where what is normally called a “win-win situation” can be established, that is, a situation in which the balance of interests between the parties has a greater interest in maintaining the balance than in forming other relationships. This clearly needs not only to prepare the cultural ground for a cultural need for such a treaty to emerge but also to identify what is the most suitable body and the most effective form for doing all this. There is a particular challenge here, it does not directly concern artificial intelligences, but to highlight the radical difference between the digital world and the traditional world. When we made a nuclear weapons treaty a non-proliferation treaty, one of the ways was to ensure, with some inspections, that arsenals were verified. Qual è il milieu culturale della Silicon Valley oggi? ecco c’è questo altruismo efficace, dove l’altruismo efficace parte da un’idea molto seducente: facciamo le cose che hanno il miglior effetto per il maggior numero di persone, cioè una forma di utilitarismo se volete leggermente trasformata e modificata che dà ai grandi enterpreneur, ai grandi imprenditori della Silicon Valley, anche un senso di missione nella loro vita, perché spendere tante ore di lavoro tanti giorni, tanti sacrifici? Sì, uno potrebbe dire per il guadagno, ma il guadagno da solo non basta a giustificare il sacrificio di una vita, e allora l’idea di avere un purpose, di avere l’obiettivo di poter migliorare il mondo è un qualcosa di molto efficace. [...] Ahimè da eticista questa cosa mi lascia dei dubbi. C’è un piccolo e prezioso libro Edito dalla Cambridge Press negli anni ‘70 che si chiama “Utilitarianism For and Against”, dove in una maniera molto anglosassone con questo stile di pensiero molto puntuale e pulito, un autore parla a favore dell’utilitarismo, un autore cerca di far vedere i limiti dell’utilitarismo. Allora l’utilitarismo ha uno scopo molto nobile, fare il maggior bene possibile. La vera domanda che si fa un eticista è ma questo schema è praticabile in pratica o no?. L’esempio che c’è all’interno di questo libro secondo me è chiave perché l’autore dice «supponete di stare su una barca in mezzo a un lago e vedete una persona che sta per affondare ed è chiaro che salvarla anche da un punto di vista utilitaristico è un’azione che deve essere fatta perché l’effetto è un effetto positivo si salva una persona, ma se fosse stato Hitler?, e se fosse stato il padre di Hitler? e se fosse stato il nonno di Hitler? cioè dove questo calcolo di utilità si deve fermare per rendere l’azione giustificata e giustificabile?» Ora che questa forma di utilitarismo si sposta nel futuro, nell’altruismo efficace rimanendo nella metafora la domanda che ci dobbiamo fare è questo: quante generazioni devo essere disposto a sacrificare perché in futuro ci sia quell’effetto positivo che io dico di voler desiderare? Ecco il problema dell’altruismo efficace è che non è efficace il metodo cioè che non ci fornisce un metodo efficace per poter giustificare e argomentare le scelte che facciamo nell’oggi e rischia di trasformarsi in una sorta di nuovo paternalismo in cui pochi soggetti molto potenti decidono per tutti. "What is the cultural milieu of Silicon Valley today? Here's this effective altruism, where effective altruism starts from a very seductive idea: we do the things that have the best effect for the greatest number of people, that is, a form of utilitarianism, if you will, slightly transformed and modified, which also gives the great entrepreneurs of Silicon Valley a sense of mission in their lives. Why spend so many hours of work, so many days, so many sacrifices? Yes, one might say for profit, but profit alone is not enough to justify sacrificing a lifetime, and so the idea of having a purpose, of having the goal of being able to improve the world is something very effective." [...] "Alas, as an ethicist, this leaves me with doubts. There is a small and precious book published by Cambridge Press in the ‘70s called “Utilitarianism For and Against”, where in a very Anglo-Saxon way with this very punctual and clean style of thought, an author speaks in favor of utilitarianism, an author tries to show the limits of utilitarianism. Then utilitarianism has a very noble purpose, to do as much good as possible. The real question an ethicist asks is whether this scheme is practical or not? The example that is inside this book in my opinion is key because the author says «suppose you are on a boat in the middle of a lake and you see a person who is about to sink and it is clear that saving him even from a utilitarian point of view is an action that must be done because the effect is a positive effect you save a person, but what if it had been Hitler?, what if he was Hitler's father? what if he was Hitler's grandfather? that is, where must this utility calculation stop to make the action justified and justifiable?» Now that this form of utilitarianism is moving into the future, in effective altruism remaining in metaphor the question we must ask ourselves is this: how many generations must I be willing to sacrifice for the future to have that positive effect that I say I want to desire? Here's the problem with effective altruism: the method isn't effective, that is, it doesn't provide us with an effective way to justify and argue the choices we make today, and it risks turning into a kind of new paternalism in which a few very powerful individuals decide for everyone. Alessandro Gisotti, Benanti: l'Intelligenza Artificiale sia al servizio del bene comune, Vatican News, 12 December 2023 Effettivamente c’è una certa inflazione del termine “rivoluzione”. Ci piace pensare che tante cose siano rivoluzionarie, nel senso che cambino tutto. Da questo punto di vista direi che più che avere davanti una vera e propria rivoluzione, abbiamo una evoluzione della Rivoluzione industriale. La Rivoluzione industriale si è caratterizzata come un sistema per surrogare alcuni compiti fatti dall’uomo con le macchine. L’inizio delle Rivoluzione industriale ha surrogato la forza muscolare; oggi vorremmo surrogare un po’ quella che è la capacità cognitiva dell’uomo. La macchina imita molto bene tutto questo; è molto capace di avere uno scopo e tuttavia questa macchina ancora è un’imitazione e non ha una sua coscienza, una sua volontà. Quindi rivoluzione è un termine troppo forte. È un’evoluzione di questa automatizzazione. Quello che conviene però mettere subito in chiaro è che gli effetti, che può avere nell’impatto sociale, possono essere “rivoluzionari”. Se la prima Rivoluzione industriale ha impattato i colletti blu rendendoli meno necessari nel processo produttivo, l’Intelligenza Artificiale può impattare e impatterà tantissimo sui colletti bianchi, cioè su quei lavori che formano la classe media e, se non la gestiamo secondo dei criteri che sono dei criteri anche di giustizia sociale, gli effetti potrebbero essere veramente devastanti o quanto meno molto forti nella capacità di coesione degli Stati democratici. There is indeed some inflation of the term “revolution”. We like to think that many things are revolutionary, in the sense that they change everything. From this point of view I would say that rather than having a real revolution ahead of us, we have an evolution of the Industrial Revolution. The Industrial Revolution was characterized as a system for subrogating some man-made tasks with machines. The beginning of the Industrial Revolution replaced muscular strength; today we would like to replace a little’ what is human cognitive capacity. The machine imitates all this very well; it is very capable of having a purpose and yet this machine is still an imitation and has no conscience of its own, no will of its own. So revolution is too strong a term. It is an evolution of this automation. What should be made clear right away, however, is that the effects it can have on social impact can be “revolutionary”. If the first Industrial Revolution impacted blue-collar workers, making them less necessary in the production process, Artificial Intelligence can and will have a huge impact on white-collar workers, that is, on those jobs that form the middle class. If we don't manage it according to criteria that are also social justice criteria, the effects could be truly devastating, or at least very strong, on the cohesion capacity of democratic states. L’Intelligenza Artificiale potrebbe porsi dei quesiti etici autonomamente e trovare delle risposte oppure questa dimensione morale rimarrà sempre appannaggio dell’uomo? No. Nonostante quanto alcuni film di fantascienza possano farci pensare, la coscienza non è qualcosa che appartiene alla macchina. Quindi non c’è una soggettività che si interroga su sé stessa o che interroga il mondo. È una macchina che esegue dei compiti. Riceve dei fini dall’uomo, come il robottino che può pulirci casa, per cui gli dico: “pulisci la casa”, e poi adegua i mezzi utilizzando l’aspiratore, va a sbattere, torna indietro, cosa che succede quando magari trova le scale, tutte cose legate a quel fine. Quindi questa parte, il “nuovo manico” dell’Intelligenza Artificiale, cioè la scelta dei fini adeguati, deve e può essere solo in mano all’uomo. Ciò non toglie che dare dei fini alla macchina senza pensarci troppo, senza farci le giuste domande, può portare a degli esiti catastrofici, pur senza la presenza di una macchina cosciente. Q: Could Artificial Intelligence independently ask itself ethical questions and find answers, or will this moral dimension always remain the preserve of humanity? A: No. Despite what some science fiction films might make us think, consciousness is not something that belongs to the machine. So there is no subjectivity that questions itself or that questions the world. It's a machine that does tasks. He receives goals from man, like the little robot that can clean our house, so I tell him: “clean the house”, and then he adjusts the means using the vacuum cleaner, crashes, comes back, which happens when maybe he finds the stairs, all things related to that goal. So this part, the “new handle” of Artificial Intelligence, that is, the choice of appropriate ends, must and can only be in human hands. This does not change the fact that giving ends to the machine without thinking too much, without asking the right questions, can lead to catastrophic outcomes, even without the presence of a conscious machine. 'Massimiliano Cannata, Intervista a Padre Benanti, assintel.it, La realtà è definita dal software. L’auto è l’emblema di questa trasformazione. Divenuta una commodity, non negoziamo il suo acquisto, possediamo solo la licenza d’uso. Il vecchio diritto romano associava tre attribuzioni alla proprietà degli oggetti: usus, abusus e fructus. Possiamo, una volta acquistato, usare a nostro piacimento lo smart phone, ma lo sfruttamento dei dati che convergono su quel bene, che sia un cellulare o un’auto è solo parzialmente e temporaneamente appannaggio nostro. Il cambio di prospettiva è molto profondo perché di fatto sta mutando la catena di potere all’interno del mondo. [...] Se in un negozio oggi per un motivo qualsiasi la connettività viene meno cambia la natura di quel luogo. Pensiamo, per fare un esempio molto familiare, a un supermercato, se privo di connessione non sarà possibile fare nessuna transazione, né verificare quello che c’è in magazzino. Se un ransomware, cosa che avviene sempre più spesso, si insinua nei sistemi IT di un ospedale, si arrestano le sale operatorie, si congelano pratiche mediche e terapie, con le conseguenze del caso. Inoltre se il è il software che definisce la realtà, quest’ultima diventa una commodity del software, colui che lo possiede definisce gli oggetti che ci troviamo di fronte. Detto in sintesi: un software sofisticato come la IA può molto semplicemente cambiare il controllo e la percezione stessa che abbiamo del mondo che ci circonda. Non a caso si parla sempre più sovente di software defined reality.'' Reality is defined by software. The car is the emblem of this transformation. Having become a commodity, we do not negotiate its purchase, we only own the license to use it. Old Roman law associated three attributions to the ownership of objects: usus, abuseus and fructus. We can, once purchased, use the smart phone at will, but the exploitation of the data that converges on that asset, whether it is a cell phone or a car, is only partially and temporarily our prerogative. The shift in perspective is very profound because it is effectively changing the chain of power within the world." [...] "If in a store today for any reason the connectivity is lost, the nature of that place changes. Let's think, to give a very familiar example, of a supermarket, if it has no connection it will not be possible to make any transactions, nor verify what is in stock. If ransomware, which is increasingly happening, infiltrates a hospital's IT systems, operating rooms are shut down, medical practices and therapies are frozen, with the consequences of the case. Furthermore, if it is the software that defines reality, the latter becomes a commodity of the software, the one who owns it defines the objects in front of us. In short: sophisticated software like AI can very simply change the control and very perception we have of the world around us. It is no coincidence that we are increasingly talking about "software defined reality". External links Category:1973 births Category:Living people Category:Roman Catholic priests Category:Theologians from Italy Category:Catholics from Italy Category:Academics from Italy