氟比克

智利人工智能的未来

Estudio Internacional

Según un estudio internacional publicado en septiembre pasado por la firma IBM, el 21% de los profesionales de las Tecnologías de Información utiliza inteligencia artificial en Chile, cifra idéntica al registro promedio a nivel Latinoamericano.

De acuerdo a la misma investigación, casi el 40 por ciento de las empresas en Chile está explorando la adopción de IA, alentada por los efectos de la pandemia del Covid 19 y la necesidad de contar con más y mejor data de los comportamientos de los consumidores.

Los usos de la inteligencia artificial en Chile han permitido mejoras significativas en atención al cliente, la seguridad, ciber seguridad, robotización y automatización de procesos, marketing y ventas, además de procesamiento de complejos caudales de información para aplicarlos en modelación de proyectos o ejecución de obras. Se aplica en áreas como la medicina, la minería, la agroindustria, e commerce, recursos humanos, telefonía, Defensa (Fuerzas Armadas), energías renovables, astronomía, entre muchas otras.

Solamente a modo de ejemplo, el mayor súper computador en Chile, cuya capacidad equivale a 30 mil computadoras de escritorio, es capaz de ejecutar múltiples tareas como procesar toda la información recopilada por las antenas de ALMA, echar a correr algoritmos para mejorar la distribución de los colegios en Chile, manejar la frecuencia de los trenes del Metro de Santiago, además de analizar data fundamental para la construcción de obras, considerando aspectos sísmicos  y climáticos.

Panorama mundial con muchas luces y sombras

A la par de los innegables y necesarios avances tecnológicos en materia de la Inteligencia Artificial, también hay un lado perverso que debe ser mantenido a raya. Hace un par de años, con ocasión del escándalo de Cambridge Analítica, tuvimos una categórica muestra de cómo la IA puede servir para alimentar algoritmos que capaces de manipular a personas.

Las elecciones de Donald Trump y Jair Bolsonaro se vieron envueltas en graves denuncias, y Facebook tuvo que dar explicaciones y establecer limitantes sobre discursos de odio.

La elaboración de grandes bases de datos son un insumo fundamental de la Inteligencia Artificial, pero el proceso de recopilación de data no siempre cumple con estándares éticos mínimos, y en ese escenario se termina afectando gravemente la intimidad de personas, sin que ellas tomen conciencia de la vulneración de su derecho.

Un informe de Naciones Unidas advirtió cómo a menudo los Estados y las empresas particulares se han precipitado a incorporar programas informáticos de IA, sin las debidas garantías para la población.

“Ha habido muchos casos de personas que han sido injustamente tratadas por esta tecnología, ya sea porque se les ha denegado prestaciones del seguro social o porque han sido arrestadas como consecuencia de errores en los sistemas de reconocimiento facial”, sostuvo la Oficina de la Alta Comisionada de Derechos Humanos de la ONU, Michelle Bachelet.

El documento indicó que además de “exponer la vida privada de las personas a las empresas y los Estados, estos conjuntos de datos hacen que los individuos sean vulnerables de otras maneras. Por ejemplo, el acceso indebido por terceros a esos datos personales ha expuesto repetidamente información sensible de millones de personas”.

En ese marco, pueden existir graves y sistemáticas vulneraciones del derecho a la intimidad, incluida la autonomía de las personas y su derecho a establecer detalles de su identidad, o afectar la libertad de pensamiento y de opinión, inclusive el derecho a un juicio justo, producto de un reconocimiento biométrico fallido o que no respete los principios expresados en la Declaración Universal de los Derechos Humanos.

“Ha habido muchos casos de personas que han sido injustamente tratadas por esta tecnología, ya sea porque se les ha denegado prestaciones del seguro social o porque han sido arrestadas como consecuencia de errores en los sistemas de reconocimiento facial”

Alta Comisionada de Derechos Humanos de la ONU, Michelle Bachelet.

El reconocimiento biométrico funciona gracias a la comparación al interior de una base de datos, de la representación digital de ciertos rasgos de un individuo, como por ejemplo el rostro, la huella dactilar, el iris ocular, la voz o la forma de caminar, con otros rasgos.

Fruto de esa comparación, se deduce una mayor o menor probabilidad de que la persona sea efectivamente la que se quiere identificar, más aún cuando la lógica actual es que esos procesos tengan lugar cada vez más en tiempo real y a distancia.

Según el informe de la ONU, “el reconocimiento biométrico a distancia aumenta drásticamente la capacidad de las autoridades estatales para identificar y rastrear sistemáticamente a las personas en los espacios públicos, lo que socava la capacidad de las personas para llevar a cabo su vida sin ser observadas y tiene un efecto negativo directo en el ejercicio de los derechos a la libertad de expresión, de reunión pacífica y de asociación, así como a la libertad de circulación”.

En Reino Unido, la empresa UBER fue demandada y enfrenta cuestionamientos por un algoritmo de reconocimiento facial que bloquea a conductores, y que en la práctica ha afectado a trabajadores de piel oscura.

El auge de la IA al interior de las empresas es tal, que muchas personas han sido contratadas, despedidas o son promocionadas en Europa como resultado de la ejecución de algoritmos, cometiendo injusticias en el proceso que un jefe humano hubiese tomado en cuenta. De allí a que la UE ya comienza a estudiar una legislación al respecto.

La moratoria que solicita la ONU

“Cuanto mayor sea el riesgo para los derechos humanos, más estrictos deben ser los requisitos legales para el uso de la inteligencia artificial, sostuvo Bachelet al comentar el aludido informe.

“Dado que la evaluación de los peligros y cómo superarlos puede llevar todavía algún tiempo, los Estados deberían implementar desde ahora moratorias sobre el uso de las tecnologías que presentan un alto potencial de riesgo”, señaló.

Pero eso no es todo, pues la ONU también pone el foco en el eventual acceso de organismos gubernamentales al conjunto de data en poder de las empresas, lo que aumentaría la probabilidad de que se produzcan injerencias arbitrarias o ilegales en el ámbito del derecho a la intimidad.

Lo que se está haciendo para regular la inteligencia artificial en Chile

En ese contexto, Chile se ha tomado en serio el tema, y las universidades donde se imparten diplomados o magister relacionados con la IA abordan el tema ético como materia obligada. Por supuesto ello no es suficiente, y desde ya el Estado –vía Ministerio de Ciencia- impulsó un primer documento de cara a contar con una Política Nacional de Inteligencia Artificial, labor que contó con aportes de especialistas provenientes de la academia, industria, el sector público y la sociedad civil.

El texto aborda factores habilitantes, uso y desarrollo de Inteligencia Artificial en Chile y aspectos sobre ética y seguridad, pero no solo se trata de fundamentos en papel, ya que contempla 70 acciones prioritarias y 180 iniciativas que se desarrollarán en el periodo 2021-2030.

El Parlamento no se quedó atrás y en septiembre pasado aprobó una reforma constitucional que modificó el artículo 19 número 1 de nuestra actual Carta Fundamental, haciéndose eco de lineamientos contenidos en el proyecto BRAIN del neurobiólogo español Rafael Yuste.

Tanto el Senado como la Cámara de Diputados hicieron suyo el llamado de científicos chilenos y extranjeros sobre la necesidad de contar con una norma que resguarde, especialmente, la actividad cerebral y la información proveniente de ella, frente al avance de las neurotecnologías.  Iniciativas legales y sus respectivos reglamentos serán fundamentales para materializar los conceptos contenidos en el modificado artículo de la Constitución de la República.

Tal como expresé en Carta a la Directora publicada en el Diario Financiero, esta reforma “nos pone a la vanguardia en cuanto a neuroderechos de rango constitucional, pero serán letra muerta si no se materializan en leyes que designen al órgano encargado de frenar eventual uso siniestro de la Inteligencia Artificial, y sobre todo que existan sanciones ejemplares, y con penas de cárcel para aquellos inescrupulosos que crucen la barrera”.

Son los primeros pasos de un marco que ojalá sea profundizado en la Convención Constituyente, y sirva de respaldo para quienes sudaron la gota gorda para conseguir los votos para la instauración de la recientemente creada Comisión  sobre Sistemas de Conocimientos, Culturas, Ciencia, Tecnología, Artes y Patrimonios. Es allí donde  los convencionales constituyentes deberán germinar una normativa que fomente el nuevo conocimiento y la aplicación práctica de la inteligencia artificial en Chile, pero siempre con los debidos resguardos y garantías para la humanidad.

和你的朋友分享

你喜歡這個內容嗎?
訂閱!

我是赫克托·平切拉 |技術專家

訂閱時事通訊並在您的電子郵件中接收有價值的信息。 免費! 
zh_CNChinese