Como ya se mencionó, el presente estudio se enfoca en los retos éticos derivados del diseño, desarrollo e implementación de sistemas de IA estrechos o acotados, por oposición a los sistemas generales de IA (AGI) (Russell, 2017). Si bien no es mi intención pronunciarme respecto del concepto técnico de IA, ni tampoco realizar algún aporte original en cuanto a su naturaleza técnica, para los efectos del presente escrito es menester acoger una definición operativa de IA, y para ello considero pertinente tener como referencia las definiciones de “sistemas de inteligencia artificial” adoptadas por el Alto Grupo de Expertos Independientes de la Unión Europea sobre Inteligencia Artificial y por la Organización para la Cooperación y el Desarrollo Económicos (OCDE), toda vez que su nivel de aceptación a nivel internacional es relevante. De una parte, en el informe publicado el 8 de abril de 2019, el Alto Grupo de Expertos Independientes de la UE definió los sistemas de IA así:
Los Sistemas de IA son software (y posiblemente hardware también) diseñados por humanos que, de acuerdo con un objetivo complejo determinado, actúan dentro de una dimensión física o digital percibiendo su ambiente por medio de la recolección de datos, interpretando datos estructurados o no-estructurados, razonando sobre el conocimiento o procesando la información derivada de dichos datos para tomar las mejores acciones que le permitan cumplir el objetivo que le ha sido asignado (High-Level Expert Group on Artificial Intelligence, 2019).
De otra parte, considero de gran relevancia la definición acogida por la OCDE (2019) en el numeral I de las Recomendaciones sobre Inteligencia Artificial del 22 de mayo de 2019:
Un Sistema de IA es una máquina que puede, de acuerdo con un conjunto de objetivos definidos por humanos, realizar predicciones, recomendaciones o tomar decisiones que tengan una influencia sobre ambientes reales o virtuales. Los sistemas de IA son diseñados para operar con distintos niveles de autonomía.
Dentro de ese contexto, la fuerza disruptiva de la IA se encuentra condicionada por tres variables esenciales, a saber: el aumento exponencial en el poder computacional, la sofisticación y proliferación de algoritmos de código abierto y, tal vez lo más importante, la generación de billones de gigabytes de datos todos los días. No en vano los datos han sido calificados como la materia prima de la Cuarta Revolución Industrial, y algunos estiman que su valor es más alto que el del petróleo en nuestros días (Stephens-Davidowitz, 2017). En ese sentido, la OCDE ha señalado que la recolección y procesamiento de una miríada de datos dio lugar al surgimiento y fortalecimiento del ecosistema del big data (OCDE, 2015).
De una parte, los datos pueden tener naturaleza personal como, por ejemplo, aquellos asociados a una persona identificada o identificable respecto de sus hábitos, comportamientos o movimientos, y por otra, pueden tener naturaleza institucional como, por ejemplo, los relativos a la salud pública, la propiedad y los tributos (Mittelstadt y Floridi, 2016). A criterio de la OCDE, los usuarios de diferentes plataformas y servicios digitales proporcionan el big data a las corporaciones para su procesamiento, lo que les permite automatizar sus procesos, experimentar, crear nuevos productos y modelos de negocio (OCDE, 2015). En ese sentido, el Departamento del Tesoro del Reino Unido ha señalado que los datos permiten el desarrollo de nuevos modelos de negocios digitales que moneticen el user engagement y la transformación de los servicios públicos a cargo del Estado.
Es por ello que los actores públicos (High-Level Expert Group on AI, 2019; OCDE, 2019) y privados (Bughin et al., 2017; Shaw, 2019) afirman al unísono que la IA y el big data están propulsando la disrupción digital de varias industrias y la economía digital, lo cual genera billones en ganancias y promueve la transformación de muchos sectores productivos. Aunado a ello, la IA también podría tener un alto valor e impacto social, en la medida en que ayudaría a combatir la desigualdad, la corrupción, el crimen y el cambio climático, a promover la justicia social y mejorar nuestra calidad de vida (Floridi et al., 2018). Con otras palabras, los datos tienen un importante valor social y económico cuyo procesamiento por sistemas de IA tiene el potencial de impulsar radicalmente la economía digital, crear nuevos modelos de negocio, y transformar los Estados y los servicios públicos a su cargo.
B. LA PREOCUPACIÓN POR LA PRIVACIDAD
Considero que el procesamiento de datos personales e institucionales por sistemas de IA para describir, predecir o prescribir información suscita problemas éticos en dos niveles estrechamente ligados con los desafíos que impone la gobernanza de los sistemas de IA (Castaño, 2020).
Con apoyo en la abundante doctrina en la materia, considero que los principales retos éticos de los sistemas de IA derivan, en esencia, de situaciones relacionadas con los problemas de transparencia, responsabilidad, control y explicabilidad. En efecto, la doctrina reconoce que los problemas de transparencia, responsabilidad, control y explicabilidad algorítmica podrían eventualmente comprometer ciertos principios éticos que gobiernan a los sistemas de IA y vulnerar los derechos humanos, los valores democráticos y el Estado de derecho (Keats Citron, Danielle y Pasquale, 2014; Keats Citron, 2007; Kroll et al., 2017). Ello no significa que no existan otros problemas asociados con la recolección masiva de datos y su procesamiento automatizado por sistemas de inteligencia, los cuales no se abordan en su totalidad en el presente escrito debido a su formato y extensión.
La tendencia a proteger la privacidad se fortaleció a lo largo del siglo XX, pero no fue sino hasta la década de los años 90 cuando surgió la preocupación por la posible manipulación de los datos y su indebido procesamiento. En efecto, se llegó a la conclusión de que un tratamiento indebido de los datos personales podría conducir a la segmentación y discriminación de ciertos sectores de la población, teoría que fue aceptada por los países de corriente continental europea, y que los llevó a lograr avances legislativos y jurisprudenciales respecto del reconocimiento de la protección de los datos personales desde la perspectiva de la intimidad, y en particular, a establecer un régimen especial en materia de habeas data.
En América Latina la doctrina señala que la Corte Interamericana de Derechos Humanos (Corte IDH) “no se ha pronunciado de manera específica en ningún caso respecto del derecho a la protección de datos personales, a pesar de que un gran número de países sujetos a su jurisdicción lo contemplan dentro de su propio derecho interno con el carácter de derecho humano” (Ramírez et al., 2017). No obstante, la Corte IDH (2009) reconoció la importancia del derecho a la privacidad al señalar que se “prohíbe toda injerencia arbitraria o abusiva en la vida privada de las personas, enunciando diversos ámbitos de la misma, como la vida privada de sus familias, sus domicilios o sus correspondencias”. También sostuvo que en el ámbito de la privacidad se debe estar exento e inmune a las invasiones o agresiones abusivas o arbitrarias de terceros o de la autoridad pública, bajo la idea de que la protección de la vida privada es “una de las más importantes conquistas de los regímenes democráticos” (CIDH, 2011).
En Colombia