¹ú²úAV

La adopci¨®n generalizada de plataformas de inteligencia artificial (IA) generativa como ChatGPT y DALL-E tras la pandemia de COVID-19 ha transformado muchas facetas de nuestra vida digital. Mediante el uso de la generaci¨®n de lenguaje natural (NLG) y los grandes modelos de lenguaje (LLM), la IA generativa se ha convertido en una herramienta de productividad eficiente para crear una amplia gama de contenido (desde art¨ªculos hasta elementos visuales, informes, videos y voces en off) sin instrucciones expl¨ªcitas. Al igual que sazonar un plato con sal, la IA mejora el rendimiento, pero requiere un control meticuloso.

Sin duda, la aparici¨®n de la IA generativa ha aumentado la producci¨®n, la eficacia y la creatividad, pero tambi¨¦n conlleva riesgos importantes, especialmente en lo que respecta a la integridad de la informaci¨®n y los derechos humanos, ya que los sistemas de IA se est¨¢n incorporando cada vez m¨¢s a las plataformas digitales.

Los riesgos que plantea la IA generativa a la integridad de la informaci¨®n

El contenido generado o mediado por IA puede ser muy cre¨ªble, dif¨ªcil de detectar, adem¨¢s de propagarse r¨¢pidamente. Cuando dicho contenido transmite informaci¨®n falsa o enga?osa, puede profundizar los d¨¦ficits de confianza.

Las herramientas de IA se utilizan ampliamente no solo por la mayor calidad de sus resultados, sino tambi¨¦n por sus interfaces m¨¢s f¨¢ciles de usar y su mayor accesibilidad. Estos factores pueden producir resultados tanto favorables como desfavorables. Por el lado positivo, los avances en IA brindan mayor eficiencia, conveniencia y un cierto grado de democracia. Por otro lado, es importante entender que los LLM no est¨¢n destinados a comunicar la verdad. En cambio, sin garantizar la precisi¨®n o la informaci¨®n f¨¢ctica, brindan afirmaciones probables basadas en patrones en los datos con cuales est¨¢n entrenados. Debido a que muchos usuarios ignoran este aspecto de los LLM, tienen la capacidad de mezclar , tratando ambas de manera id¨¦ntica, lo que compromete la integridad de la informaci¨®n.

La sociedad suele seguir las tendencias sin cuestionarlas, lo que permite que valores esenciales como los derechos humanos sean relegados al segundo plano.

Adem¨¢s, las plataformas digitales y la inteligencia artificial generativa son una combinaci¨®n maravillosa para difundir informaci¨®n falsa y enga?osa, ya que los algoritmos de la mayor¨ªa de las plataformas digitales priorizan el contenido con mayor interacci¨®n del usuario por sobre la precisi¨®n de este. El mayor uso de material generado por IA como arma para distorsionar los hechos podr¨ªa conducir a una propagaci¨®n m¨¢s r¨¢pida de informaci¨®n falsa. Aunque las tecnolog¨ªas de verificaci¨®n de datos han avanzado, las plataformas digitales y los algoritmos de IA a¨²n carecen de mecanismos confiables para confirmar la legitimidad del material de manera regular. Adem¨¢s, las diferentes plataformas y jurisdicciones tienen , lo que significa que incluso cuando se encuentra material inexacto, puede llevar horas o d¨ªas rectificarlo.

Si el proceso de verificaci¨®n de datos de material digital contin¨²a funcionando de esta manera, la difusi¨®n de informaci¨®n err¨®nea y desinformaci¨®n podr¨ªa aumentar, lo que generar¨ªa m¨¢s inquietudes sobre la autenticidad, el sesgo, la privacidad de la informaci¨®n y m¨¢s. La difusi¨®n de esa informaci¨®n tambi¨¦n pone en peligro las instituciones democr¨¢ticas y los derechos humanos fundamentales.

Hay que ser humano para entender los derechos humanos

El art¨ªculo 19 de la Declaraci¨®n Universal de Derechos Humanos establece que ¡°toda persona tiene derecho a la libertad de opini¨®n y de expresi¨®n¡±. Pero esa libertad no debe ser objeto de abuso ni de distorsi¨®n para perjudicar a otras personas o comunidades. Lamentablemente, el contenido generado por inteligencia artificial se ha utilizado cada vez m¨¢s para difundir discursos de odio, xenofobia y ret¨®rica discriminatoria dirigidos contra poblaciones vulnerables, como y las minor¨ªas ¨¦tnicas.

Un estudio de 2019 realizado por Deeptrace, una empresa de ciberseguridad con sede en ?msterdam, revel¨® que . Adem¨¢s, , dirigido especialmente a mujeres y ni?os para atraerlos a la explotaci¨®n.

Tambi¨¦n existen desaf¨ªos en materia de derechos humanos desde el punto de vista tecnol¨®gico. Los algoritmos de aprendizaje de la IA se basan principalmente en enormes cantidades de datos recopilados de extensas plataformas digitales y de redes sociales, que son cargados por humanos o generados a trav¨¦s de interacciones humanas. Dado el gran volumen de datos acumulados, es casi imposible para los humanos repasar minuciosamente o incluso echar un vistazo a cada pieza de informaci¨®n. Los modelos de IA utilizan estos datos para identificar tendencias, generar pron¨®sticos y crear contenido sint¨¦tico, pero . Esta falta de sofisticaci¨®n en los modelos de IA podr¨ªa conducir a la difusi¨®n de sesgos perjudiciales e informaci¨®n directamente enga?osa que podr¨ªa violar los derechos humanos.

Otra fuente potencial de violaciones de los derechos humanos es el entorno laboral del personal encargado del mantenimiento y el entrenamiento de los sistemas de inteligencia artificial. A menudo, est¨¢n mal pagados y expuestos a contenidos perturbadores, y trabajan en condiciones que pueden provocar angustia psicol¨®gica, un problema que ha empezado a llamar la atenci¨®n recientemente. , m¨¢s de 150 trabajadores de los sistemas de inteligencia artificial de Facebook, TikTok y ChatGPT se reunieron en Nairobi y se comprometieron a establecer el primer Sindicato Africano de Moderadores de Contenido.

La sociedad suele seguir las tendencias sin cuestionarlas, lo que permite que valores esenciales como los derechos humanos sean relegados al segundo plano. Podr¨ªamos ser especialmente vulnerables en el caso de la IA, ya que se est¨¢ arraigando cada vez m¨¢s en nuestra vida diaria. Esta r¨¢pida expansi¨®n de las plataformas de IA generativa pone de relieve los desaf¨ªos ¨¦ticos, en particular en lo que respecta a los derechos humanos. Actualmente, la debilidad de las pol¨ªticas hace vulnerables la privacidad y la autonom¨ªa de las personas, permitiendo a las empresas tecnol¨®gicas explotar los espacios digitales con fines de generar ganancias.  

A medida que la sociedad se vuelve m¨¢s dependiente de las plataformas y servicios digitales, abordar estas preocupaciones, en particular las relacionadas con los derechos humanos, se vuelve cada vez m¨¢s urgente.

Somos humanos despu¨¦s de todo.

El camino que queda por delante es, sin duda, largo y dif¨ªcil, y, a medida que la IA sigue evolucionando, es fundamental adoptar un enfoque responsable que alinee la innovaci¨®n tecnol¨®gica con la preservaci¨®n de la verdad, la dignidad y los derechos humanos. Es imprescindible adoptar un enfoque multifac¨¦tico para mitigar los riesgos que plantea la IA generativa.

Los propietarios de plataformas digitales deber¨ªan rendir cuentas por el contenido que comparten, en particular en el contexto de la desinformaci¨®n amplificada por la IA.

Desde un punto de vista t¨¦cnico, para que el contenido de IA sea preciso y confiable, los desarrolladores deben comenzar con pruebas exhaustivas para detectar sesgos, errores y vulnerabilidades en la etapa de desarrollo. La transparencia en relaci¨®n con los datos, los algoritmos y la toma de decisiones es esencial para generar confianza y abordar el impacto de la IA en la integridad de la informaci¨®n, ya que el uso de conjuntos de datos diversos ayuda a evitar sesgos perjudiciales y conduce a un contenido m¨¢s equilibrado. Como se recomienda en los Principios Globales de las Naciones Unidas para la Integridad de la Informaci¨®n, las empresas tecnol¨®gicas deben dar a los usuarios la posibilidad de hacer aportaciones y comentarios sobre todos los aspectos relacionados con la confianza y la seguridad, la pol¨ªtica de privacidad y el uso de los datos, reconociendo los derechos de privacidad de los usuarios. Se deben mejorar las opciones y el control de los usuarios, junto con la compatibilidad con una variedad de servicios de diversos proveedores.

En lo que respecta a los derechos humanos, las autoridades jur¨ªdicas y los grupos de derechos humanos deben apoyar activamente el desarrollo y el uso de la IA de una manera que respete la privacidad y la dignidad individuales. Como parte de esta labor, deber¨ªa aplicarse una normativa de protecci¨®n de datos m¨¢s estricta para proteger a las personas de la recopilaci¨®n intrusiva de datos e impedir que los sistemas de IA utilicen datos personales para sus propios fines sin permiso. Los organismos de control de los derechos humanos deben incorporar la ¨¦tica de la IA en los marcos de derechos humanos existentes, al tiempo que garantizan que las aplicaciones de IA respeten los derechos individuales, como la privacidad, la libertad de expresi¨®n y el derecho a la no discriminaci¨®n. Las protecciones especiales son cruciales para los grupos vulnerables, incluidas las mujeres, los ni?os, los adultos mayores, las personas con discapacidad, los pueblos ind¨ªgenas, los refugiados, las personas LGBTIQ+ y las minor¨ªas ¨¦tnicas o religiosas.

Los propietarios de plataformas digitales deber¨ªan rendir cuentas por el contenido que comparten, en particular en el contexto de la desinformaci¨®n amplificada por la IA. Se deber¨ªan desarrollar sistemas de monitoreo de contenido m¨¢s avanzados que puedan identificar y eliminar o etiquetar r¨¢pidamente la desinformaci¨®n generada por la IA. Las plataformas digitales tambi¨¦n podr¨ªan garantizar que las personas comprendan c¨®mo se elige y promueve el contenido siendo m¨¢s transparentes sobre sus algoritmos y pr¨¢cticas de recopilaci¨®n de datos.

Juntos podemos garantizar que la IA generativa se utilice de forma adecuada en el futuro y que sus beneficios se obtengan sin poner en peligro la integridad de la informaci¨®n y los derechos humanos. El llamamiento a favor de pr¨¢cticas de IA responsables no es solo una mera alternativa, sino una necesidad para garantizar un futuro digital justo y equitativo.

Este art¨ªculo se ha publicado con la ayuda de traducci¨®n autom¨¢tica; se han hecho esfuerzos razonables para garantizar su precisi¨®n. Las Naciones Unidas no se responsabilizan de las traducciones incorrectas o inexactas ni de otros problemas que puedan derivarse de la traducci¨®n autom¨¢tica. Si surgen preguntas relacionadas con la exactitud de la informaci¨®n contenida en esta traducci¨®n, consulte la versi¨®n original del art¨ªculo en ingl¨¦s.