La decisión robótica: algoritmos, interpretación y justicia predictiva

Robo-Decision: Algorithms, Legal Interpretation, Predictive Justice

Contenido principal del artículo

Resumen

A pesar de los riesgos de las decisiones robóticas, la previsibilidad y la justicia predictiva pueden ser consideradas como oportunidades para prever el resultado del juicio mediante el uso de algoritmos. El presente estudio nace a partir de una pregunta: ¿un juez puede ser reemplazado por un robot? La tesis propuesta es que la decisión robótica, así como la humana, puede contener errores y que las decisiones robóticas no podrán considerarse “justas”, incluso cuando son lógicamente “correctas”, ya que no existen máquinas infalibles. Sin embargo, se debería evaluar positivamente que la automatización del proceso decisorio permite lograr ventajas significativas en términos de uniformidad, fiabilidad y capacidad de control adecuado de la decisión robla de.

Palabras clave:

Descargas

Los datos de descargas todavía no están disponibles.

Detalles del artículo

Referencias (VER)

AA.VV., Calcolabilità giuridica, Carleo, A. (ed.), Bologna, Il Mulino, 2017.

AA.VV., Il vincolo giudiziale del passato. I precedenti, Carleo, A. (ed.), Bologna, Il Mulino, 2018.

AA.VV., Intelligenza meccanica, Torino, Bollati Boringhieri, 1994.

Aletras, N. et al., “Predicting judicial decisions of the European Court of Human Rights: a natural language processing perspective”, Peer Journal of Computer Science, 2:e93, 24 de octubre, 2016. DOI: https://doi.org/10.7717/peerj-cs.93

Ancona, M., “Industria 4.0 e sistema giustizia”, Caos. Rivista quadrimestrale per l’innovazione sociale, fasc. 2, 2017.

Ash, E. et al., Judge Writing Style Predicts Decision Tendencies in U.S. Bankruptcy

Courts, Technical Report, 2018.

Asimov, I., Io, Robot, Milano, Bompiani, 1985.

Avitabile, L., “Il diritto davanti all’algoritmo”, Riv. it. sc. giur., 2017, 319 ss.

Baldwin, R., The Globotics Upheaval. Globalization, Robotics, and the Future of Work, London, Weidenfeld & Nicolson, 2019.

Balkin, J. M., “The path of robotics law”, Calif. L. Rev., 2015, 45 ss.

Barocas, S. y Selbst, A. D., “Big data’s disparate impact”, Cal. L. Rev., 2016, 104, 671 s. DOI: https://doi.org/10.2139/ssrn.2477899

Barrio Andrés, M. (dir.), Derecho de los robots, Madrid, La Ley, 2018.

Battelli, E., “Il paternalismo giuridico libertario nella prospettiva dell’autonomia privata tra vincoli strutturali e limiti funzionali”, Pol. diritto, 2018, 4, 579 ss.

Belloso Martin, N., “Algoritmos predictivos al servicio de la justicia: una forma de minimizer el riesgo y la incertidumbre”, Revista da Faculdade Mineira de Direito, puc Minas / Dossiê - Jorge Eduardo Douglas Price e Raffaele De Giorgi, 2019, 22, 43, 1-31.

Bergé, J.-S. et al., “The ‘Datasphere’. Data flows beyond control, and the challenges for law and governance”, Eur. J. Comp. Law & Gov., 5, 2, 2018, 144 ss. DOI: https://doi.org/10.1163/22134514-00502001

Bichi, R., “Intelligenza artificiale e diritto. Intelligenza artificiale tra ‘calcolabilità’ del diritto e tutela dei diritti”, Giur. It., 2019, 7, 1773 ss.

Borgesius, F. Z. (ed.), Discrimination, Artificial Intelligence, and Algorithmic Decision- Making, Strasbourg, Council of Europe, 2018.

Borruso, R., L’informatica nel diritto, Milano, Giuffrè, 2004, 316 s.

Cadoppi, A., Il valore del precedente nel diritto penale, Torino, Giappichelli, 2007.

Cafaggi, F., “Regolazione transnazionale e trasformazioni dello Stato: un’introduzione”, en Id. (ed.), Regolazione transnazionale e trasformazioni dello Stato, Bologna, Il Mulino, 2016.

Cardon, D., “Le pouvoir des algorithmes”, Pouvoirs, 164, 1, 2018, 63 ss. DOI: https://doi.org/10.3917/pouv.164.0063

Casonato, C., “Intelligenza artificiale e diritto costituzionale: prime considerazioni”, Dir. pubbl. comp. eur., n.º especial, 2019, 101 ss.

Castelli, C. y Piana, D., “Giustizia predittiva. La qualità della giustizia in due tempi”, Questione Giustizia, 4, 2018, 154 ss.

Castronovo, C., Eclissi del diritto civile, Milano, Giuffrè, 2015.

Chander, A., “The racist algorithm?”, Michigan L. Rev., 115, 6, 2017, 1023 ss.

Chen, D. L. y Eagel, J., “Can machine learning help predict the outcome of asylum adjudications?”, en Proceedings of the Association for Computing Machinery Conference on Artificial Intelligence and the Law, 2016. DOI: https://doi.org/10.2139/ssrn.2815876

Clarke, A. C., 2001. A Space Odissey, trad. ital., 2001. Odissea nello spazio, B. Oddera (trad.), Milano, Longanesi, 1972.

Converso, M., “Giudici, ‘computer’, sentenze”, Foro it., 1990, I, 693 ss.

Costantino, G., “Il principio di affidamento tra fluidità delle regole e certezza del diritto (Relazione all’Incontro sul tema: ‘Norme processuali e mutamenti di giurisprudenza’, Roma, 24 maggio 2011)”, Riv. dir. proc., 2011, 5, 1073 ss.

Craglia, M. (ed.), Artificial Intelligence. A European Perspective, Luxembourg, 2018.

Crisci, S., “Intelligenza artificiale ed etica dell’algoritmo”, Foro Amministrativo, 10, 1787 s.

Dalfino, D., “Creatività e creazionismo, prevedibilità e predittività”, Foro it., 2018, pt. V, c. 385 ss.

Dalfino, D., “Giurisprudenza ‘creativa’ e prevedibilità del ‘diritto giurisprudenziale’”, Giusto processo civ., 2017, 1023 ss.

De Condorcet, M., Essai sur application de l’analyse à la probabilité des décisions rendues à la pluralité des voix, Paris, 1785.

De Finetti, B., Teoria delle probabilità. Sintesi introduttiva con appendice critica, Torino, Einaudi, 1970.

De la Oliva Santos, A., “‘Giustizia predittiva’, interpretazione matematica delle norme, sentenze robotiche e la vecchia storia del ‘Justizklavier’”, Riv. trim. dir. proc. civ., 3, 2019, 883 ss.

De la Oliva Santos, A., Informática, interpretación (¿inexistente por innecesaria o matemática?), De la ley y la vieja historia del “Justizklavier”, Conferencia internacional de estudios “Giustizia predittiva e prevedibilità delle decisioni.

Dalla certezza del diritto alla certezza dell’algoritmo?”, Università degli studi di Bari Aldo Moro, 5 de octubre de 2018.

De Miguel Beriaín, Í., “Does the use of risk assessments in sentences respect the right to due process? A critical analysis of the Wisconsin v. Loomis ruling”, Law Probability and Risk, 17, 1, 2018, 45-53. DOI: https://doi.org/10.1093/lpr/mgy001

De Santis, A. D., s.v. “Processo telematico”, en Enc. Giuridica Treccani, Roma, 2015.

Desai, D. R. y Kroll, J. A., “Trust but verify: a guide to algorithms and the law”, Harvard J. Law & Tech., 1, 2018, 35 ss.

Di Ciommo, F., “Sulla giustizia ingiusta (dalla giurisprudenza normativa alla giustizia del caso concreto): la vicenda emblematica delle nullità negoziali”, Foro it.,

, v, 249 ss.

Di Sabato, D., “Gli smart contracts: robot che gestiscono il rischio contrattuale”, Contr. Impr., 2017, 378 ss.

Dondero, B., “La justice prédictive”, [en línea], disponible en: https://brunodondero.com/2017/02/10/la-justice-predictive, 2017.

Douglas Price, J. E., La decisión judicial, Buenos Aires, Culzoni, 2012.

Duclercq, J.-B., “Le droit public à l’ère des algorithmes”, Rev. Dr. Pub., 5, 2017, 1401 ss.

Fabiani, E., Clausole generali e sindacato della Cassazione, Torino, utet, 2003, 712 ss.

Ferragina, P. y Luccio, F., Il pensiero computazionale. Dagli algoritmi al coding, Bologna, Il Mulino, 2017.

Ferrarese, M. R., Diritto sconfinato, Roma-Bari, Laterza, 2006.

Freeman, K., “Algorithmic injustice: how the Wisconsin Supreme Court failed to protect due process rights in State v. Loomis”, North Caroline Journal of Law and Technology (ncjl & Tech.), 18, 2016, 75 ss.

Gadamer, H. G., Wahrheit und Methode, Tübingen, trad. ital., Verità e metodo, G. Vattimo (trad.), Milano, Bompiani, 1972, 1990.

Garapon, A., “Les enjeux de la justice prédictive”, Le semaine juridique, éd. générale, Hebdomadaire, n.º 1-2, 2017.

Gaudemet, P. Y., “La justice à l’heure des algorithmes”, Rev. Dr. Pub., 3, 2018, 651 ss.

Gentili, A., Senso e consenso. vols. i y ii, Storia e teoria, Torino, Giappichelli, 2015.

Giuffrè, V., Il diritto dei privati nell’esperienza romana. I principali gangli, Napoli, Jovene, 2002.

Gorla, G., s.v. “Precedente giudiziario”, en Enc. Giur. Treccani, xxxvi, Roma, 1991.

Gorla, G, Diritto comparato e diritto comune europeo, Milano, Giuffrè, 1981.

Grossi, P., Ritorno al diritto, Roma-Bari, Laterza, 2015.

Harris, A., “Judicial decision making and computers”, Vill. L. Rev. 12, 272, 1967, 312 s.

Hoffmann-Riem, W., “Verhaltenssteuerung durch Algorithmen. Eine Herausforderung für das Recht”, Archiv des öffent. Rechts, 142, 2017, 2 ss. DOI: https://doi.org/10.1628/000389117X14894104852645

Holder, C. et al., “Robotics and law: key legal and regulatory implications of the robotic age”, i, Computer Law and Security Review, 2016, 384 ss. DOI: https://doi.org/10.1016/j.clsr.2016.03.001

Holmes, O. W., “The path of the law”, Harvard Law Review, 457, 1897 ss. DOI: https://doi.org/10.2307/1322028

Iaselli, M., “È ipotizzabile l’avvocato-robot o il giudice-robot? Le applicazioni dell’intelligenza artificiale nel settore legale”, Altalex.com, 15 de junio, 2017.

Irti, N. y Severino, E., “Le domande del giurista e le risposte del filosofo (un dialogo tra diritto e tecnica)”, en Contratto e Impresa, 2006, 665 ss.

Irti, N., “Calcolabilità weberiana e crisi della fattispecie”, Riv. dir. civ., 2014, 987 ss.

Irti, N., “Capitalismo e calcolabilità giuridica (letture e riflessioni)”, Riv. Società, 2015, 801 ss.

Irti, N., “La crisi della fattispecie”, Riv. dir. proc., 2014, 43 ss.

Irti, N., “Per un dialogo sulla calcolabilità giuridica”, Riv. dir. proc., 2016, 921 ss.

Irti, N., Un diritto incalcolabile, Torino, Giappichelli, 2016.

Kaplan, J., Intelligenza artificiale. Guida al futuro prossimo, Roma, luiss University Press, 2017, 52 ss.

Kaplan, R., The Nothing that is. A Natural History of Zero, trad. ital., Zero. Storia di una cifra, S. Galli y C. Capararo (trads.), Milano, rcs, 2014.

Katsh, E. y Rabinovich-Einy, O., Digital Justice. Technology and the Internet of Disputes, Oxford, Oxford University Press, 2017. DOI: https://doi.org/10.1093/acprof:oso/9780190464585.001.0001

Keats Citron, D. y Pasquale, F., “The scored society: due process for automated predictions”, Washington Law Review, 89, 1, 2014, 1 ss.

Kelsen, H., Society and Nature. A Sociological Inquiry, Chicago (Ill.), The University of Chicago Press, 1943, trad. ital., Società e natura. Ricerca sociologica, Torino, Einaudi, 1953, 18 ss.

Kroll, J. A., “The fallacy of inscrutability”, Phil. Trans. R. Soc., 376, 2133, 2018. DOI: https://doi.org/10.1098/rsta.2018.0084

Lamon, B., “La profession d’avocat et la justice prédictive: un bel outil pour le développement du droit”, Récueil Dalloz, 14, 2017.

Lawlor, R. C., “What computers can do: analysis and prediction of judicial decisions”, American Bar Association Journal, 49, 4, 1963, 337 ss.

Leibniz, G. W., “Princìpi ed esempi della scienza generale”, en Scritti di logica, Barone, F. (ed.), Milano, Mondadori, 2009.

Lin, P. et al., Robot Ethics, mit Press, 2012.

Lin, P. et al., “Robot ethics: mapping the issues for a mechanized world”, Artificial Intelligence 175, 2011, 944 ss. DOI: https://doi.org/10.1016/j.artint.2010.11.026

Lipari, N., “I civilisti e la certezza del diritto”, Riv. dir. civ., 2015, 1115 ss.

Lombardi Vallauri, L., “Verso un sistema esperto giuridico integrale”, Jus, 1996, 157 ss.

Luciani, M., “Garanzie ed efficienza nella tutela giurisdizionale”, Dir. soc., 2014, 433 ss.

Luciani, M., “La decisione giudiziaria robotica”, Riv. Associaz. Italiana Costituzionalisti, 2018, 3, 872 ss.

Luminoso, A. (ed.), Diritto e crisi, Milano, Giuffrè, 2016.

Manes, V., Il giudice nel labirinto, Profili di intersezioni tra diritto penale e fonti sovranazionali, Roma, Dikegiuridica, 2012.

Marcoz, G., “Intelligenza artificiale e giustizia, perché è importante la Carta ética europea”, Agenda digitale.eu, 15 de febrero, 2019.

Martinay, A. y Mazens, M., “Regards sur les ‘promesses’ de la justice predictive”, [en línea], disponible en: http://blogs.univ-poitiers.fr/c-marcon

Martínez García, I., “Inteligencia y derechos humanos en la sociedad digital”, Cuadernos Electrónicos de Filosofía del Derecho, 2019, 40, 168-189. DOI: https://doi.org/10.7203/CEFD.40.13846

Mattei, U., “Precedente giudiziario e ‘stare decisis’”, Dig. Disc. Priv., Sez. civile, vol. xiv, Turín, utet, 1996.

Mattera, R., “Decisione negoziale e giudiziale: quale spazio per la robotica?”, Nuova giur. civ. comm., 2019, 201 ss.

Mekki, M., “If code is law, then code is justice? Droit et algorythmes”, Gazette du Palais, 27 de junio, 2017.

Mengoni, L., “Spunti per una teoria delle clausole generali”, Riv. critica dir. privato, 1986, 5 ss.

Morelli, C., “Algoritmi e diritti umani: si rischia la collisione (immaginate a danno di

chi?)”, Altalex.com, 9 de julio, 2018.

Nazzaro, A. C., “Macchine intelligenti (‘smart cars’): assicurazione e tutela dela ‘privacy’. Smart cars insurance and protection of privacy”, Diritto del mercato assicurativo e finanziario, 2018, 1, 77 ss.

Neumann, J. von, The Computer & the Brain, New Haven, Yale University Press, 1958, trad. ital., Computer e cervello, P. Bartesaghi (trad.), Milano, Il Saggiatore, 2014.

Nieva Fenoll, J., Inteligencia artificial y proceso judicial, Madrid, Marcial Pons, 2018.

Noto La Diega, G., “Against the de-humanisation of decision-making”, jipitec, 9, 3, 2018.

O’Neil, C., Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy, London, Penguin, 2016.

Olhede, S. C. y Wolfe, P. J., “The growing ubiquity of algorithms in society: implications, impacts, and innovations”, Phil. Trans. R. Soc., 2018, 1 ss. DOI: https://doi.org/10.1098/rsta.2017.0364

Pacchioni, G., “I poteri creativi della giurisprudenza”, Riv. dir. comm., 1912, 41 ss.

Palmerini E. et al., “RoboLaw: towards a European framework for robotics regulation”, Robotics and Autonomous Systems, 2016, 78 ss. DOI: https://doi.org/10.1016/j.robot.2016.08.026

Pardolesi, R. y Pino, G., “Post-diritto e giudice legislatore. Sulla creatività della giurisprudenza”, Foro it., 2017, V, c. 113 ss.

Pasquale, F., The Black Box Society: The Secret Algorithms that Control Money and Information, Cambridge-London, Harvard University Press, 2015. DOI: https://doi.org/10.4159/harvard.9780674736061

Passanante, L., Il precedente impossibile. Contributo allo studio del diritto giurisprudenziale nel processo civile, Torino, Giappichelli, 2018.

Pauliat, H., “La décision administrative et les algorithmes: une loyauté à consacrer”, Rev. dr. pub., 3, 2018, 641 ss.

Pedreschi, D. et al., “Open the black box. Data-driven explanation of black box decision systems”, ArXiv, 1, 2018, 1 ss.

Pino, G., “La gerarchia delle fonti del diritto. Costruzione, decostruzione, ricostruzione”, Ars interpretandi, xvi, 2011, 53 ss.

Pizzetti, F. (ed.), Intelligenza artificiale, protezione dei dati personali e regolazione, Torino, Giappichelli, 2018.

Poisson, S. D., Recherches sur la probabilité des jugements en matière criminelle et en matière civile, Paris, Bachelier, 1837.

Poli, G. G., “Il sistema delle fonti del processo civile telematico”, Riv. dir. proc., 2016, 4-5, 1201 ss.

Punzi, A., L’ordine giuridico delle macchine. La Mettrie - Helvétius - D’Holbach. L’uomo macchina verso l’intelligenza collettiva, Torino, Giappichelli, 2003.

Quarta, E., “Giustizia e predizione: l’algoritmo che legge il futuro”, Giustizia insieme, 10 de marzo, 2019.

Quarta, E., “L’algoritmo giuridico che realizza l’antico sogno dell’uomo di visualizzare scenari avveniristici: la giustizia nell’era 4.0”, Personaedanno.it, 21 de febrero, 2019.

Scherer, M. U., “Regulating artificial intelligence systems: risks, challenge, competences, and strategies”, Har. J.L. & Tech., 29, 2016, 354 ss. DOI: https://doi.org/10.2139/ssrn.2609777

Schiavone, A., “Ius”. L’invenzione del diritto in Occidente, Torino, Einaudi, 2005, 5 ss.

Severino, E., La potenza dell’errare, Milano, Rizzoli, 2013, 87 ss.

Shah, H., “Algorithmic accountability”, Phil. Trans. R. Soc., 376, 2128, 2018. DOI: https://doi.org/10.1098/rsta.2017.0362

Simoncini, A. y Suweis, S., “Il cambio di paradigma nell’intelligenza artificiale e il suo impatto sul diritto costituzionale”, Riv. filosofia dir., 1, 2019, 87 ss.

Simoncini, A., “L’algoritmo incostituzionale: intelligenza artificiale e il futuro delle libertà”, BioLaw Journal - Rivista di BioDiritto, 2019, 1, 63 s.

Solar Cayón, J. I., La inteligencia artificial jurídica. El impacto de la innovación tecnológica en la práctica del derecho y el mercado de servicios jurídicos, Cizur Menor, Aranzadi, 2019.

Susskind, R., Tomorrow’s Lawyers. An Introduction to Your Future, 2.a ed., Oxford, Oxford University Press, 2017.

Taddei Elmi, G., Corso di informatica giuridica, Napoli, Simone, 2007.

Taruffo, M., “Legalità e giustificazione della creazione giudiziaria del diritto”, Riv. trim. dir. e proc. civ., 2001, 11 ss.

Taruffo, M., “Precedente e giurisprudenza”, Riv. trim. dir. e proc. civ., 2007, 710 ss.

Tegmark, M., Vita 3.0. Essere umani nell’era dell’intelligenza artificiale, Milano, Raffaello Cortina, 2018.

Temme, M., “Algorithms and transparency in view of the new General Data Protection Regulation”, Eur. Data Prot. L. Rev., 3, 4, 2017, p. 473 ss. DOI: https://doi.org/10.21552/edpl/2017/4/9

Thaler, R. y Sunstein, C. R., Nudge. La spinta gentile. La nuova strategia per migliorare le nostre decisioni su denaro, salute, felicità, Milano, Feltrinelli, 2018.

Tiscornia, D., Il diritto nei modelli dell’intelligenza artificiale, Bologna, clueb, 1996.

Resta, G., “Governare l’innovazione tecnologica: decisioni algoritmiche, diritti digitali e principio di uguaglianza”, Pol. diritto, 2, 2019, 199 ss.

Rodotà, S., Tecnologie e diritti, Bologna, Il Mulino, 1995.

Romano, B., Dalla metropoli verso internet. Persona. Libertà. Diritto, Torino, Giappichelli, 2017.

Rossi, G. y Zanuso, F. (eds.), Attualità e storicità del “Dei delitti e delle pene” a duecentocinquanta anni dalla pubblicazione, Napoli, esi, 2015.

Ruffolo, U., Intelligenza artificiale e responsabilità, Milano, Giuffrè, 2018.

Rulli, E., “Giustizia predittiva, intelligenza artificiale e modelli probabilistici. Chiha paura degli algoritmi?”, Analisi Giuridica dell’Economia, 2018, 533 ss.

Sartor, G., Artificial Intelligence: Challenges for EU Citizens and Consumers, PE 631.043, Brussels, January 2019.

Sartor, G., Intelligenza artificiale e diritto. Un’introduzione, Milano, Giuffrè, 1996.

Sassi, S., “Gli algoritmi nelle decisioni pubbliche tra trasparenza e responsabilità”,Analisi Giuridica dell’Economia, 2019, 1, 109 ss.

Sauvé, J.-M., Le juge administratif et l’intelligence artificielle, Conférence des présidents des jurisdictions administratives, Rennes, 20 de abril de 2018.

Vettori, G., “Effettività delle tutele (dir. civile)”, Enciclopedia del diritto, Milano, Giuffrè, 2017.

Viola, F. et al., Le ragioni del diritto, Bologna, Il Mulino, 2017.

Viola, L., “Giustizia predittiva”, www.treccani.it, 2018.

Viola L., Interpretazione della legge con modelli matematici. Processo, a.d.r., giustizia predittiva, 2.ª ed., Milano, Centro Studi Diritto Avanzato, 2018.

Viola L., “L’interpretazione della legge ex art. 12 Preleggi si basa su un algoritmo”, Giustiziacivile.com, 22 de febrero, 2019.

Weber, M., Economia e società, Milano, Bompiani, 1947.

Zaccaria, G., Ermeneutica e giurisprudenza. I fondamenti filosofici nella teoria di Hans Georg Gadamer, Milano, Giuffrè, 1984.

Zagrebelsky, V., “Dalla varietà della giurisprudenza alla unità della giurisprudenza”, Cass. pen., 1988, 1576 ss.

Zellini, P., La dittatura del calcolo, Milano, Adelphi, 2018.

Citado por