Connect with us

Tecnología

Los derechos humanos en la era de la inteligencia artificial: cómo gobernar para la humanidad

Publicado

on

A 75 años de la proclamación de la Declaración Universal de los Derechos Humanos, la irrupción de la inteligencia artificial (IA) redefine los desafíos y oportunidades en la promoción de la dignidad humana, la equidad y la sostenibilidad.

En diciembre se celebra el Día Internacional de los Derechos HumanosPacto Global Argentina se suma al llamado de Naciones Unidas para revalorizar la protección de los derechos fundamentales en un mundo transformado por la tecnología.

El respeto y la promoción de los derechos humanos constituyen un pilar de la sostenibilidad corporativa. Como indican los Principios 1 y 2 del Pacto Global de Naciones Unidas, en el contexto de sus operaciones, las empresas pueden generar impactos negativos, afectando los derechos humanos de diversos actores con los cuales se relacionan. Desde su creación en 2004, Pacto Global Argentina genera espacios para el intercambio entre pares, el desarrollo de capacidades y el diálogo multiactor en materia de derechos humanos.

En un mundo caracterizado por la incertidumbre, las migraciones, la inequidad, el cambio climático, las desigualdades estructurales y las demandas públicas crecientes, las Naciones Unidas llama a las empresas a acelerar su compromiso con la sostenibilidad en la Década para la Acción.

A 75 años de la proclamación de la Declaración Universal de los Derechos Humanos, la irrupción de la inteligencia artificial (IA) redefine los desafíos y oportunidades en la promoción de la dignidad humana, la equidad y la sostenibilidad.

Gobernar la IA para la humanidad

El informe “Gobernar la IA para la humanidad” de Naciones Unidas exhorta a gobiernos, empresas y sociedad civil a establecer una arquitectura global inclusiva y cooperativa para la gobernanza responsable de la IA. Accenture define la IA responsable como la práctica de diseñar, construir e implementar IA de una manera que empodere a los empleados y a las empresas, teniendo un impacto justo en los clientes y la sociedad. Este enfoque no solo busca fomentar el desarrollo sostenible, sino también garantizar que los avances tecnológicos estén alineados con los principios fundamentales de los Derechos Humanos.

Según el informe conjunto de Pacto Global y Accenture “Gen AI for the Global Goals”, el mercado de IA generativa crecerá un 32% anual hasta alcanzar $98.1 mil millones en 2026. Sin embargo, solo el 2% de las empresas han implementado mecanismos completos de gobernanza de IA responsable. Esto subraya la urgencia de establecer marcos éticos y colaborativos que alineen los avances tecnológicos con los derechos humanos y la sostenibilidad.

Derechos Humanos y tecnología: Un deber colectivo

La inteligencia artificial puede ser una herramienta poderosa para el progreso humano, pero también plantea riesgos significativos si no es adecuadamente regulada. Desde sesgos algorítmicos hasta brechas de acceso, el uso no ético de la IA podría exacerbar desigualdades y vulnerar derechos fundamentales. Por ello, la ética y la rendición de cuentas deben ser principios rectores en el diseño, desarrollo y uso de estas tecnologías.

Derechos humanos y regulaciones

La gobernanza de la inteligencia artificial debe priorizar la protección de los derechos humanos a través de marcos regulatorios claros y efectivos. Según el informe conjunto de Accenture y Pacto Global, las empresas tienen la responsabilidad de garantizar que los sistemas de IA respeten principios éticos, como la transparencia, la equidad y la no discriminación. Esto incluye adoptar estándares internacionales, como los Principios Rectores de Naciones Unidas sobre Empresas y Derechos Humanos, para guiar evaluaciones de impacto y mitigar riesgos.

Además, con la Unión Europea liderando iniciativas regulatorias como la Ley de IA, se está estableciendo un precedente global que refuerza la necesidad de un enfoque integral y colaborativo. La implementación de estas regulaciones no solo asegura la protección de los derechos fundamentales, sino que también promueve la confianza y la legitimidad en el uso de tecnologías emergentes.

Integridad sostenible en un mundo digital

Adoptar un marco ético para la IA es una extensión de nuestro compromiso con los Derechos Humanos. Desde Pacto Global Argentina alientan a las organizaciones a integrar estas recomendaciones en sus operaciones, priorizando la sostenibilidad, la inclusión y la justicia.

En este esfuerzo, la plataforma Academy de Global Compact ofrece capacitaciones clave en áreas como:

  • Derechos Humanos y Empresas.
  • Ética en la Inteligencia Artificial.
  • Principios rectores sobre empresas y Derechos Humanos.

Todas las organizaciones y actores sociales estan invirados a explorar estos recursos gratuitos como una herramienta para avanzar hacia una gobernanza responsable y alineada con los ODS.

Acciones sugeridas para las empresas

Los avances tecnológicos están impactando cada vez más a las empresas. El 97% de los ejecutivos cree que la IA generativa transformará su industria en los próximos tres a cinco años. Por ende, las empresas tienen un papel crucial en la gobernanza de la IA con enfoque en Derechos Humanos. Más allá de capacitarse, es fundamental que adopten acciones concretas para asegurar que sus prácticas tecnológicas respeten los principios éticos, protejan derechos fundamentales y contribuyan a los Objetivos de Desarrollo Sostenible (ODS) a saber:

  • Adopción de Principios Éticos para la Gobernanza de la IA
  • Desarrollar un marco ético interno que regule el diseño, desarrollo y uso de la IA, asegurando la alineación con los Derechos Humanos y los ODS.
  • Implementar principios rectores: Transparencia, equidad, no discriminación, privacidad, responsabilidad y rendición de cuentas.
  • Evaluación de Impacto de Derechos Humanos en la IA
  • Realizar evaluaciones de impacto periódicas para identificar riesgos reales y potenciales de los sistemas de IA en los derechos de las personas, especialmente de comunidades vulnerables.
  • Utilizar marcos reconocidos como los Principios Rectores de Naciones Unidas sobre Empresas y Derechos Humanos para guiar estas evaluaciones.
  • Incorporación Paneles comunitarios en la Gobernanza Participativa
  • Involucrar a múltiples partes interesadas (empleados, comunidades, ONGs, expertos en derechos humanos) en la revisión y monitoreo de las aplicaciones de IA. Promover la consulta abierta y la inclusión de voces diversas para garantizar que las tecnologías desarrolladas beneficien a todos.
  • Transparencia y Rendición de Cuentas
  • Publicar informes regulares que detallen cómo se están utilizando las tecnologías de IA en la empresa, qué medidas se están tomando para mitigar riesgos y qué beneficios se están generando. Garantizando la trazabilidad de los algoritmos y las decisiones automatizadas, explicando claramente a los usuarios cómo y por qué se toman estas decisiones.
  • Capacitación y Conciencia Ética Interna
  • Crear equipos interdisciplinarios que incluyan expertos y expertas en tecnología, ética y derechos humanos para liderar las iniciativas de IA responsable. Tener presente los sesgos algorítmicos, la privacidad y protección de datos.
  • Promoción de la Diversidad y la Inclusión en el Desarrollo de IA
  • Asegurar que los equipos de desarrollo de IA sean diversos e inclusivos, lo que puede ayudar a reducir sesgos en los algoritmos y a diseñar soluciones más equitativas.
  • Implementar prácticas de reclutamiento inclusivo para roles técnicos y éticos relacionados con IA.
  • Colaboración con Redes Globales y Locales
  • Participar en plataformas internacionales como el Panel Científico Internacional sobre IA, recomendado por Naciones Unidas, para compartir y aprender de las mejores prácticas.
  • Establecer alianzas con universidades, centros de investigación y ONGs para fomentar la investigación responsable de IA con impacto positivo.
  • Impulso a la Innovación Responsable
  • Utilizar la IA para abordar desafíos globales, como la reducción de emisiones de carbono (ODS 13) o el aumento de la eficiencia en el uso de recursos naturales (ODS 12) com también para contribuir al ODS 10 (Reducción de desigualdades).

Compromiso y Acción

Estas acciones deben ser acompañadas por un compromiso visible y activo por parte del liderazgo empresarial. La inteligencia artificial tiene el potencial de transformar positivamente nuestras sociedades, pero su impacto debe ser cuidadosamente gestionado. Al adoptar alguna de estas acciones entendemos que las empresas no solo protegerán los derechos fundamentales, sino que también construirán confianza y legitimidad, elementos clave para su sostenibilidad a largo plazo.

Un llamado urgente

Hacemos un llamado a trabajar juntos en una visión inclusiva y cooperativa para la gobernanza de la IA. Con solo el 17% de los ODS en camino de cumplirse para 2030, es fundamental que gobiernos, empresas y sociedad civil aceleren la implementación de prácticas responsables en IA.

“Desde Accenture estamos convencidos que la tecnología debe alinearse con los valores fundamentales de los derechos humanos. Gobernar la IA no es opcional, es un deber colectivo”, asegura Gaetano Salierno, Director de Estrategia y Sostenibilidad de Accenture Argentina.

“La inteligencia artificial, gobernada con integridad y en beneficio de la humanidad, puede ser un catalizador de justicia y sostenibilidad. Gobernarla es protegernos”, explica Flavio Fuertes, Director Ejecutivo del Pacto Global.

Pacto Global Argentina reafirma su compromiso con los valores de dignidad, justicia y equidad en un mundo donde la tecnología y los Derechos Humanos deben avanzar juntos para garantizar un futuro sostenible para todos.

Tecnología

Sam Altman advierte sobre la transformación en el empleo tras el avance de la inteligencia artificial

Publicado

on

Por

El CEO de OpenAI señaló que la llegada de sistemas superinteligentes cambiará la naturaleza de muchos empleos, aunque confía en la capacidad de adaptación de la sociedad ante estos cambios

Sam Altman, director ejecutivo de OpenAI, aseguró durante una conversación con su hermano Jack Altman, en el pódcast “Uncapped” que “la IA descubrirá nueva ciencia. Y esto es una afirmación loca, pero creo que es verdad”. Con esta frase, Altman anticipó el potencial transformador de la inteligencia artificial en los próximos años, delineando los retos y oportunidades que marcarán el rumbo de la sociedad y la economía global. Según detalló en el diálogo recogido en “Uncapped”, la IA está a punto de dar un salto cualitativo que podría revolucionar la ciencia, el empleo y la vida cotidiana, planteando interrogantes sobre la integración de sistemas superinteligentes y la competencia entre gigantes tecnológicos como OpenAI y Meta.

El potencial de la IA para descubrir nueva ciencia

Durante la entrevista, Sam Altman subrayó que la capacidad de razonamiento de los modelos de IA ha avanzado a un ritmo inesperadamente rápido. “Hemos resuelto el razonamiento en los modelos. Nos queda mucho camino por recorrer, pero creo que sabemos qué hacer”, afirmó el CEO de OpenAI, según recogió el pódcast.

El directivo sostuvo que, aunque la IA todavía actúa como copiloto en la investigación científica, su impacto ya se percibe en la productividad de los científicos. “Ya hay científicos que dicen que son tres veces más productivos usando O3”, relató Altman a “Uncapped”. A medida que los modelos evolucionen, anticipa que la IA podrá realizar descubrimientos autónomos, especialmente en campos con grandes volúmenes de datos, como la astrofísica. “He escuchado que la primera área donde la IA hará descubrimientos autónomos será la astrofísica, porque hay montañas de datos y no suficientes doctorados para analizarlos”, explicó.

A su juicio, la física representa un problema “más limpio” para la IA que la economía, por la naturaleza de los datos y la posibilidad de experimentación controlada.

Impacto en el empleo, la economía y la vida cotidiana

El avance de la inteligencia artificial no solo promete acelerar el progreso científico, sino que también tendrá efectos profundos en el mercado laboral y la economía. “Muchos trabajos desaparecerán. Muchos trabajos cambiarán drásticamente”, advirtió Altman en el pódcast. No obstante, el CEO de OpenAI se mostró optimista sobre la capacidad de la sociedad para adaptarse a estos cambios. “Siempre hemos sido muy buenos encontrando nuevas cosas que hacer y formas de ser útiles unos a otros”, reflexionó.

Altman reconoció que la transición podría resultar extraña desde la perspectiva actual, pero consideró que la humanidad ha atravesado transformaciones similares en el pasado. “A nosotros, nuestros trabajos nos parecen importantes y satisfactorios, pero si en el futuro todos estamos creando mejor entretenimiento para los demás, quizá eso sea lo que uno de nosotros ya está haciendo ahora”, comentó, en referencia al propio formato del pódcast.

En cuanto a la vida cotidiana, el ejecutivo prevé que los consumidores demandarán asistentes personales de IA, capaces de conocer sus objetivos y ayudarlos a través de múltiples dispositivos y plataformas. “Lo que los consumidores quieren de nosotros es, eventualmente, un compañero de IA, por falta de una mejor palabra, que viva en el éter y les ayude en todas estas formas”, describió.

"Muchos trabajos desaparecerán. Muchos trabajos“Muchos trabajos desaparecerán. Muchos trabajos cambiarán drásticamente”, advirtió Altman en el pódcast (Captura video)

Riesgos y desafíos de la superinteligencia y la integración física

El desarrollo de sistemas superinteligentes y su integración en el mundo físico representan, para Altman, uno de los mayores retos de la próxima década. El CEO de OpenAI reconoció que, aunque el software ha avanzado rápidamente, la robótica y la interacción física aún presentan desafíos significativos. “Estamos atrasados, pero creo que llegaremos. Por ejemplo, tenemos tecnología nueva que podría hacer conducción autónoma mucho mejor que cualquier enfoque actual”, señaló.

El empresario tecnológico se mostró convencido de que en cinco a diez años existirán robots humanoides avanzados, capaces de realizar tareas cotidianas en entornos urbanos. “Tendremos robots humanoides increíbles. Caminarán por la calle, haciendo cosas”, anticipó. Sin embargo, advirtió que la presencia masiva de robots en la vida diaria podría resultar desconcertante al principio. “Acostumbrarse a que la mitad de quienes caminan por la calle sean robots será una diferencia importante”, reflexionó.

Sobre los riesgos asociados a la superinteligencia, Altman consideró que el peligro no reside únicamente en la capacidad física de los robots, sino también en el potencial de la IA para causar daños a través de medios digitales, como la creación de armas biológicas o el sabotaje de infraestructuras críticas. “Se pueden hacer cosas muy dañinas sin necesidad de lo físico”, puntualizó.

OpenAI: cultura de innovación y competencia con Meta

La transformación de OpenAI de un laboratorio de investigación a una empresa de productos ha sido, en palabras de Altman, un proceso acelerado y desafiante. “Hace dos años y medio solo éramos un laboratorio de investigación. Tuvimos que construir toda una gran empresa”, recordó. El lanzamiento de ChatGPT en noviembre de 2022 marcó un punto de inflexión, consolidando a OpenAI como un actor central en el desarrollo de aplicaciones de IA para consumidores y empresas.

Respecto a la competencia, Altman reveló que Meta considera a OpenAI como su principal rival en el sector. “He escuchado que Meta nos ve como su mayor competidor”, afirmó al pódcast “Uncapped”. Según el CEO, la estrategia de Meta ha consistido en ofrecer grandes incentivos económicos para atraer talento de OpenAI, aunque hasta ahora sin éxito entre los principales investigadores de la compañía. “Han hecho ofertas de hasta 100 millones de dólares en bonos de firma, más de eso en compensación anual”, detalló.

Altman defendió la cultura de innovación de OpenAI como un factor diferenciador frente a otras grandes tecnológicas. “Creo que hemos construido una cultura realmente especial para la innovación. Entendemos cosas que otros no sobre lo que se necesita para tener éxito en eso”, sostuvo. A su juicio, la clave está en alinear los incentivos económicos con la misión de la empresa, priorizando el impacto y la excelencia en la investigación.

Reflexiones personales sobre el rol de la IA y la experiencia en OpenAI

A lo largo de la conversación, Sam Altman compartió impresiones personales sobre el impacto de la IA en la sociedad y su experiencia al frente de OpenAI. El directivo reconoció que, pese a los avances técnicos, la transformación social no ha sido tan radical como anticipaba. “Me siento muy confiado, más que nunca, en que sabemos qué hacer para lograr sistemas de IA increíbles y supercapaces. Pero me siento totalmente confundido sobre cómo será la sociedad si eso ocurre”, admitió.

El CEO de OpenAI sugirió que la adaptación social a la superinteligencia podría ser lenta, incluso si la tecnología alcanza niveles de capacidad extraordinarios. “Es posible que tengamos una superinteligencia de 400 de coeficiente intelectual y que la vida siga igual. Si se está descubriendo nueva ciencia para nosotros, eventualmente la sociedad sabrá cómo lidiar con eso, pero puede ser muy lento”, reflexionó.

En el plano personal, Altman describió su trabajo como una mezcla de responsabilidad y satisfacción. “Desde la perspectiva del impacto social, es el trabajo más importante que jamás tocaré. Pero en el día a día, se siente más como un rompecabezas interesante que como un trabajo importante”, confesó a “Uncapped”. También destacó la importancia de la cultura interna y el disfrute de trabajar con su equipo, a pesar de la presión y la exposición pública que conlleva liderar una empresa como OpenAI.

El crecimiento de la IAEl crecimiento de la IA exige nuevas fuentes de energía y expansión de infraestructuras tecnológicas (Captura de pantalla)

Consumo energético, futuro de la computación y expansión hacia el espacio

El crecimiento de la inteligencia artificial plantea desafíos en materia de consumo energético y desarrollo de infraestructuras. El CEO de OpenAI consideró fundamental que la sociedad piense en toda la cadena de valor, “desde el electrón hasta la consulta en ChatGPT”.

En su opinión, el aumento del consumo energético es un indicador positivo de progreso. “Lo que más se ha correlacionado con la mejora de la calidad de vida a lo largo de la historia es la abundancia de energía”, afirmó.

El CEO de OpenAI se mostró optimista sobre la llegada de nuevas fuentes energéticas, como la fusión y la fisión avanzadas, así como el aprovechamiento de la energía solar. “Estoy bastante confiado en que la fusión ocurrirá”, aseguró. Altman incluso planteó la posibilidad de que, en el futuro, la humanidad consuma más energía de la que puede generar la Tierra, lo que haría necesaria la expansión hacia el espacio. “Tenemos un gran sistema solar ahí fuera”, apuntó.

En cuanto al futuro de la computación, sugirió que la integración de la IA en nuevos dispositivos y plataformas permitirá experiencias más cercanas a la ciencia ficción, con asistentes inteligentes presentes en todos los aspectos de la vida diaria.

Una visión de adaptación y valor social

Sam Altman concluyó que el reto principal no reside solo en desarrollar sistemas de IA cada vez más potentes, sino en asegurar que la sociedad obtenga valor de estos avances.

“Quizá más personas deberían hablar sobre cómo asegurarnos de que la sociedad obtenga el valor de esto. Esas preguntas se han vuelto más difíciles y menos claras”, reflexionó. Altman expresó su confianza en la capacidad de adaptación de la humanidad, anticipando que las nuevas generaciones crecerán en un mundo donde la inteligencia artificial será una herramienta cotidiana y fundamental para el progreso.

Seguir leyendo

Tecnología

Elon Musk anunció que los robotaxis de Tesla estarán en las calles de Austin el 22 de junio

Publicado

on

Por

El CEO de la empresa dijo que esa fecha era tentativa. El servicio de vehículos de transporte autónomos operará en Texas.

Elon Musk afirmó que el servicio de robotaxis de Tesla está “tentativamente” programado para comenzar a operar en Austin, Texas, el 22 de junio.

Seguir leyendo

Sociedad

Montaron una empresa en la que todos los empleados son IA y los resultados fueron desconcertantes

Publicado

on

Por

Una universidad estadounidense hizo el experimento para medir cuán eficiente es la inteligencia artificial sin supervisión humana. ¿Qué tareas lograron resolver y en cuáles fracasaron? En diálogo con Infobae, los investigadores analizaron los límites en la autonomía de las máquinas.

Durante algunas semanas, nadie tomó un café en la oficina, no hubo almuerzos compartidos, no hubo charlas cara a cara, mucho menos festejos de cumpleaños ni momentos recreativos. Sin embargo, la empresa funcionó. O al menos lo intentó.

Seguir leyendo

Mas Leidas

© 2022 FM Integracion 90.1. Todos los Derechos Reservados. | Desarrollado por Conexión Streaming

FM Integracion 90.1