Tecnología
Elon Musk y más de mil expertos piden poner en pausa los avances en inteligencia artificial: “Hay grandes riesgos para la humanidad”
Reclamaron frenar por seis meses las investigaciones en el sector hasta que haya un marco legal que pueda evitar posibles consecuencias.
Elon Musk y más de mil expertos mundiales firmaron el miércoles un llamado a hacer una pausa de seis meses en la investigación sobre inteligencias artificiales (IA) más potentes que ChatGPT 4, el modelo de OpenAI lanzado este mes, al advertir de “grandes riesgos para la humanidad”.
En la petición publicada en el sitio futureoflife.org, piden una moratoria hasta que se establezcan sistemas de seguridad con nuevas autoridades reguladoras, vigilancia de los sistemas de IA, técnicas que ayuden a distinguir entre lo real y lo artificial, e instituciones capaces de hacer frente a la “dramática perturbación económica y política (especialmente para la democracia) que causará la IA”.
La firman personalidades que han expresados sus temores sobre una IA incontrolable que supere a los humanos, como Musk, dueño de Twitter y fundador de SpaceX y Tesla, y el historiador Yuval Noah Hariri.
That's why we're calling on all AI labs to immediately pause for at least 6 months the training of AI systems more powerful than GPT-4.
Here's what we think should happen before we train even larger models (7/8): pic.twitter.com/Zk422xR8kb
— Future of Life Institute (@FLIxrisk) March 29, 2023
El director de Open AI, que diseñó ChatGPT, Sam Altman, ha reconocido tener “un poco de miedo” de que su creación se utilice para “desinformación a gran escala o ciberataques”.
“La empresa necesita tiempo para adaptarse”, declaró recientemente a ABCNews.
“En los últimos meses hemos visto cómo los laboratorios de IA se han lanzado a una carrera descontrolada para desarrollar y desplegar cerebros digitales cada vez más potentes que nadie, ni siquiera sus creadores, pueden entender, predecir o controlar de manera fiable”, afirman.
“¿Debemos permitir a las máquinas inundar nuestros canales de información con propaganda y mentiras? ¿Debemos automatizar todos los trabajos, incluidos los gratificantes? (…) ¿Debemos arriesgarnos a perder el control de nuestra civilización? Estas decisiones no deben delegarse en líderes tecnológicos no electos“, concluyeron.
Entre los firmantes figuran el cofundador de Apple, Steve Wozniak, miembros del laboratorio de AI DeepMind de Google, el director de Stability AI, Emad Mostaque, así como expertos y académicos estadounidenses de IA e ingenieros ejecutivos de Microsoft, empresa aliada de OpenAI.
A continuación, el manifiesto completo para frenar avances en IA:
Pausar experimentos gigantes de IA: una carta abierta
Hacemos un llamado a todos los laboratorios de IA para que pausen inmediatamente durante al menos 6 meses el entrenamiento de los sistemas de IA más potentes que GPT-4.
Los sistemas de IA con inteligencia humana-competitiva pueden plantear riesgos profundos para la sociedad y la humanidad, como lo demuestra una extensa investigación [1] y reconocido por los principales laboratorios de IA. [2] Como se establece en los Principios de IA de Asilomar ampliamente respaldados , la IA avanzada podría representar un cambio profundo en la historia de la vida en la Tierra, y debe planificarse y administrarse con el cuidado y los recursos correspondientes.
Desafortunadamente, este nivel de planificación y gestión no está ocurriendo, a pesar de que en los últimos meses los laboratorios de IA han entrado en una carrera fuera de control para desarrollar e implementar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, pueden entender. predecir o controlar de forma fiable.
Los sistemas de IA contemporáneos ahora se están volviendo competitivos para los humanos en tareas generales, [3] y debemos preguntarnos: ¿Deberíamos dejar que las máquinas inunden nuestros canales de información con propaganda y falsedad? ¿Deberíamos automatizar todos los trabajos, incluidos los de cumplimiento? ¿Deberíamos desarrollar mentes no humanas que eventualmente podrían superarnos en número, ser más inteligentes, obsoletas y reemplazarnos? ¿ Deberíamos arriesgarnos a perder el control de nuestra civilización? Tales decisiones no deben delegarse en líderes tecnológicos no elegidos.
Los sistemas potentes de IA deben desarrollarse solo una vez que estemos seguros de que sus efectos serán positivos y sus riesgos serán manejables. Esta confianza debe estar bien justificada y aumentar con la magnitud de los efectos potenciales de un sistema. La declaración reciente de OpenAI con respecto a la inteligencia general artificial establece que “en algún momento, puede ser importante obtener una revisión independiente antes de comenzar a entrenar sistemas futuros, y para los esfuerzos más avanzados para acordar limitar la tasa de crecimiento de la computación utilizada para crear nuevos modelos“. Estamos de acuerdo. Ese punto es ahora.
Por lo tanto, hacemos un llamado a todos los laboratorios de IA para que pausen de inmediato durante al menos 6 meses el entrenamiento de los sistemas de IA más potentes que GPT-4 . Esta pausa debe ser pública y verificable, e incluir a todos los actores clave. Si tal pausa no se puede promulgar rápidamente, los gobiernos deberían intervenir e instituir una moratoria.
Los laboratorios de IA y los expertos independientes deberían aprovechar esta pausa para desarrollar e implementar conjuntamente un conjunto de protocolos de seguridad compartidos para el diseño y desarrollo avanzados de IA que son rigurosamente auditados y supervisados por expertos externos independientes. Estos protocolos deben garantizar que los sistemas que se adhieren a ellos sean seguros más allá de toda duda razonable. [4] Esto no significa una pausa en el desarrollo de la IA en general, simplemente un paso atrás de la carrera peligrosa hacia modelos de caja negra impredecibles cada vez más grandes con capacidades emergentes.
La investigación y el desarrollo de IA deben reenfocarse en hacer que los sistemas potentes y de última generación de hoy en día sean más precisos, seguros, interpretables, transparentes, robustos, alineados, confiables y leales.
Paralelamente, los desarrolladores de IA deben trabajar con los legisladores para acelerar drásticamente el desarrollo de sistemas sólidos de gobierno de IA. Estos deben incluir como mínimo: autoridades reguladoras nuevas y capaces dedicadas a la IA; supervisión y seguimiento de sistemas de IA de alta capacidad y grandes conjuntos de capacidad computacional; sistemas de procedencia y marcas de agua para ayudar a distinguir las fugas reales de las sintéticas y rastrear modelos; un sólido ecosistema de auditoría y certificación; responsabilidad por daños causados por IA; financiación pública sólida para la investigación técnica de seguridad de la IA; e instituciones bien dotadas para hacer frente a las dramáticas perturbaciones económicas y políticas (especialmente en la democracia) que provocará la IA.
La humanidad puede disfrutar de un futuro floreciente con la IA. Habiendo tenido éxito en la creación de poderosos sistemas de IA, ahora podemos disfrutar de un “verano de IA” en el que cosechamos las recompensas, diseñamos estos sistemas para el claro beneficio de todos y le damos a la sociedad la oportunidad de adaptarse. La sociedad ha hecho una pausa en otras tecnologías con efectos potencialmente catastróficos en la sociedad. [5] Podemos hacerlo aquí. Disfrutemos de un largo verano de IA, no nos apresuremos a caer sin estar preparados.
Notas y referencias de la carta
[1] Bender, EM, Gebru, T., McMillan-Major, A. y Shmitchell, S. (marzo de 2021). Sobre los peligros de los loros estocásticos: ¿Pueden los modelos de lenguaje ser demasiado grandes?🦜. En Actas de la conferencia ACM de 2021 sobre equidad, responsabilidad y transparencia (págs. 610-623).
Bostrom, N. (2016). Superinteligencia. Prensa de la Universidad de Oxford.
Bucknall, BS y Dori-Hacohen, S. (julio de 2022). La IA actual y a corto plazo como posible factor de riesgo existencial. En Actas de la Conferencia AAAI/ACM de 2022 sobre IA, Ética y Sociedad (págs. 119-129).
Carlsmith, J. (2022). ¿Es la IA que busca poder un riesgo existencial? . preimpresión de arXiv arXiv:2206.13353.
Cristiano, B. (2020). El problema de la alineación: aprendizaje automático y valores humanos. Norton y Compañía.
Cohen, M. et al. (2022). Agentes artificiales avanzados intervienen en la provisión de la recompensa. Revista AI , 43 (3) (págs. 282-293).
Eloundou, T., et al. (2023). Los GPT son GPT: una mirada temprana al potencial de impacto en el mercado laboral de los modelos de lenguaje grande.
Hendrycks, D. y Mazeika, M. (2022). Análisis de riesgo X para la investigación de IA . preimpresión de arXiv arXiv:2206.05862.
Ngo, R. (2022). El problema de la alineación desde una perspectiva de aprendizaje profundo. preimpresión de arXiv arXiv:2209.00626.
Russell, S. (2019). Compatible con humanos: inteligencia artificial y el problema del control. Vikingo.
Tegmark, M. (2017). Life 3.0: Ser Humano en la Era de la Inteligencia Artificial. Knopf.
Weidinger, L. y otros (2021). Riesgos éticos y sociales de daño de los modelos lingüísticos. preimpresión de arXiv arXiv:2112.04359.
[2] Ordóñez, V. et al. (2023, 16 de marzo). El CEO de OpenAI, Sam Altman, dice que la IA remodelará la sociedad, reconoce los riesgos: “Esto me asusta un poco” . ABC Noticias.
Perrigo, B. (2023, 12 de enero). El CEO de DeepMind, Demis Hassabis, insta a la precaución con la IA . Tiempo.
[3] Bubeck, S. et al. (2023). Chispas de inteligencia artificial general: primeros experimentos con GPT-4 . arXiv:2303.12712.
IA abierta (2023). Informe técnico GPT-4 . arXiv:2303.08774.
[4] Existe un amplio precedente legal; por ejemplo, los Principios de IA de la OCDE, ampliamente adoptados , exigen que los sistemas de IA “funcionen adecuadamente y no planteen un riesgo de seguridad irrazonable”.
[5] Los ejemplos incluyen la clonación humana, la modificación de la línea germinal humana, la investigación de ganancia de función y la eugenesia.
Tecnología
Desarrollaron un robot que imita los festejos de Cristiano Ronaldo y LeBron James, y los movimientos de Kobe Bryant
Un innovador método de entrenamiento permitió al humanoide aprender movimientos complejos basándose en videos de atletas y ajustándose a la física del mundo real
Un robot humanoide entrenado con un nuevo sistema de inteligencia artificial logró replicar movimientos icónicos de deportistas como Cristiano Ronaldo, LeBron James y Kobe Bryant.
El modelo, desarrollado por la Universidad Carnegie Mellon y la empresa NVIDIA, mejora la agilidad y coordinación de los robots con un enfoque innovador de aprendizaje.
Los detalles de la investigación fueron publicados en arXiv, marcando un nuevo hito en la evolución de los robots humanoides y su capacidad para moverse con una destreza sin precedentes.
Los investigadores trabajaron durante años para dotar a los robots humanoides de una movilidad más fluida. Sin embargo, la mayoría de los avances se concentraron en la locomoción, permitiendo que estos dispositivos caminen o corran con mayor eficiencia, pero sin la expresividad y destreza del movimiento humano completo.
Aunque algunos estudios recientes exploraron la movilidad de la parte superior del cuerpo, conseguir que un robot ejecute movimientos atléticos sigue siendo un desafío.
El modelo ASAP: una nueva estrategia de entrenamiento
Con ese reto en mente, investigadores de la Universidad Carnegie Mellon y la empresa NVIDIA desarrollaron el modelo Aligning Simulation and Real Physics (ASAP), un sistema de entrenamiento en dos etapas que permite a los robots humanoides ejecutar movimientos coordinados de cuerpo entero.
En la primera etapa, el modelo analiza videos de movimientos humanos, procesando patrones biomecánicos y adaptándolos a la estructura robótica, explicó el medio sobre tecnología Tech Xplore.
Luego, en la segunda etapa, el robot recopila datos en el mundo real, ajustando las diferencias entre la simulación y la física real. Esto reduce errores de seguimiento y mejora la precisión de sus movimientos.
Robots que imitan a los mejores atletas
Para demostrar la efectividad del sistema, los investigadores programaron un robot humanoide para realizar movimientos emblemáticos de deportistas de élite.
Durante las pruebas, el robot replicó el famoso salto con giro en el aire del futbolista Cristiano Ronaldo, que suele acompañar del grito “SIUUU”. Esta maniobra que exige un alto nivel de coordinación y equilibrio.
También logró ejecutar el icónico “Silencer” de LeBron James, en el que el jugador se equilibra sobre una pierna después de encestar, y el característico tiro con salto de Kobe Bryant, que combina precisión y elevación.
Además de estos movimientos deportivos y otros más sencillos como sentadillas, el robot consiguió realizar saltos de más de un metro. Esto es un logro significativo en comparación con modelos anteriores de robótica humanoide.
El modelo de acción delta: clave en la precisión
El éxito de este modelo radica en la integración del modelo de acción delta, una tecnología que permite compensar las diferencias entre la física simulada y la física real.
Gracias a este mecanismo de corrección, el equipo de investigación logró reducir los errores de seguimiento en un 52,7%, lo que se traduce en movimientos más fluidos y naturales, según el medio de ciencia Interesting Engineering.
Aunque el robot humanoide aún presenta ciertas limitaciones debido a su hardware y la menor cantidad de articulaciones en comparación con un ser humano, su agilidad representa un avance significativo en el desarrollo de la robótica atlética.
Este tipo de innovaciones abre nuevas posibilidades para la aplicación de robots humanoides en múltiples sectores, desde la asistencia en tareas físicas hasta el entretenimiento y la robótica deportiva.
“Los robots humanoides tienen el potencial de una versatilidad sin igual para realizar habilidades de cuerpo completo similares a las de los humanos. Sin embargo, lograr movimientos de cuerpo completo ágiles y coordinados sigue siendo un desafío importante debido al desajuste dinámico entre la simulación y el mundo real”, explicaron los autores del estudio según Interesting Engineering.
Los investigadores ya están explorando formas de mejorar la seguridad y adaptabilidad de estos sistemas, incluyendo el uso de cámaras y sensores avanzados en lugar de los tradicionales sistemas de captura de movimiento.
Tecnología
Europa se prepara para explorar Marte: los ambiciosos planes de la ESA para la próxima década
La agencia europea apuesta por la investigación de Marte con tecnología avanzada, iniciando una nueva era en la búsqueda de vida extraterrestre
La Agencia Espacial Europea (ESA) avanza en el desarrollo de tecnologías claves para la exploración de Marte. Con el lanzamiento programado del rover Rosalind Franklin en 2028 y la planificación de un aterrizador avanzado para 2035, la ESA demuestra su compromiso con la investigación espacial y la búsqueda de vida más allá de la Tierra. Este esfuerzo tiene el objetivo de ampliar nuestro conocimiento sobre el planeta rojo y fortalecer las capacidades tecnológicas europeas en la carrera espacial global.
Un futuro tecnológico liderado por Rosalind Franklin y el aterrizaje de alta precisión
El rover Rosalind Franklin, diseñado para la búsqueda de vida en Marte, es el punto de partida de un programa ambicioso. Su lanzamiento está previsto para 2028 tras varios retrasos, y marcará un hito al explorar el subsuelo marciano en busca de compuestos orgánicos que podrían indicar la existencia de vida pasada o presente. Este será el precursor de una nueva era en la exploración de Marte liderada por Europa.
La ESA también está enfocada en el desarrollo de tecnologías para un aterrizaje de alta precisión, necesario para futuros proyectos más complejos en Marte. El 17 de diciembre, la agencia lanzó una convocatoria titulada “Capacidades avanzadas de entrada, descenso y aterrizaje en Marte”, con el objetivo de evitar bloqueos tecnológicos y sentar las bases de un aterrizaje guiado que pueda garantizar la seguridad y precisión de las misiones en terrenos desafiantes.
El desarrollo temprano de estas tecnologías es estratégico. Según la ESA, el propósito es recopilar información sobre la madurez tecnológica, los tiempos de desarrollo y las estimaciones presupuestarias antes de la reunión ministerial clave que se celebrará en Bremen, Alemania, en noviembre. Allí, los estados miembros decidirán si el proyecto recibe luz verde para continuar.
Explore 2040 y el papel de LightShip en la exploración marciana
Más allá del aterrizaje previsto para 2035, la ESA apunta a una visión aún más amplia con su programa Explore 2040, diseñado para garantizar la presencia europea en Marte en las próximas décadas. Uno de los elementos centrales de esta estrategia es el desarrollo de LightShip, un remolcador eléctrico de propulsión avanzada que promete revolucionar el transporte espacial.
LightShip funcionará como un vehículo para trasladar naves espaciales y cargas científicas al planeta rojo y ofrecerá servicios esenciales como comunicación y navegación, indispensables para garantizar la seguridad y el éxito de misiones tripuladas. Además, será capaz de transportar una amplia gama de instrumentos científicos, facilitando investigaciones avanzadas en el terreno.
Este plan refleja un cambio en la exploración espacial, donde la colaboración internacional y la sostenibilidad juegan un papel central. La ESA busca posicionarse como líder tecnológico al desarrollar infraestructura que permita misiones más complejas y potencialmente habitadas, un paso clave hacia la colonización de Marte.
2035: la ventana de lanzamiento perfecta para Marte
La fecha propuesta para el aterrizaje de alta precisión en 2035 no es casual. Este año representa una ventana de lanzamiento particularmente favorable debido a la alineación orbital entre la Tierra y Marte, lo que minimiza el consumo de combustible y maximiza la eficiencia de la misión. Estas ventanas, que se abren cada 26 meses, son fundamentales para planificar misiones espaciales interplanetarias.
La ESA subraya que aprovechar esta oportunidad es importante desde un punto de vista técnico y también estratégico. Asegurar el lanzamiento en 2035 posicionará a Europa como un actor clave en la carrera espacial, compitiendo con otras agencias como la NASA y actores emergentes como SpaceX.
Con una combinación de misiones científicas, desarrollo tecnológico y visión estratégica, la ESA demuestra su ambición por consolidar su presencia en el espacio. El aterrizaje de alta precisión en 2035 será un hito para el avance de la humanidad hacia la exploración y potencial colonización de otros planetas.
Tecnología
Los derechos humanos en la era de la inteligencia artificial: cómo gobernar para la humanidad
Un turista de 21 años se metió al Río Paraná para buscar una pelota y murió ahogado
Temporal en Bahía Blanca, en vivo: se reactivó el transporte público y será gratis por 30 días
El caso del “monstruo de Villa Martelli” que abusó a su hijastra durante seis años en la calle y en un albergue de Constitución
La inflación anual de Estados Unidos trepó a 8,6% en mayo y es la más alta en 40 años
El Incucai condenó la propuesta de Javier Milei de permitir la venta de órganos
“El cuerpo irradia calor”: la insólita respuesta a maestros de una escuela de General Rodríguez que se quejaron del frío
Furioso temporal en Bahía Blanca: suspendieron todas las actividades y hay decenas de familias evacuadas
Mataron a una nena de 7 años que quedó en medio de un robo en La Plata: detuvieron a dos adolescentes de 14 y 17 años
Un policía mató a un adolescente de 16 años que intentaba robar un auto en La Matanza
-
Politica2 días atrásEl Gobierno apura el pedido de autorización al Congreso para acordar con el FMI: detalles de una medida clave para la economía
-
Nacionales2 días atrásEl gobierno de Chubut frenó la ayuda a las víctimas de los incendios en Epuyén
-
Sociedad2 días atrásPor la fórmula jubilatoria, aumentó el gasto en febrero y el Gobierno acelera recortes en subsidios y obra pública
-
Politica2 días atrásTres días antes del temporal, Pettovello desguazó la Dirección Nacional de Emergencias
-
Internacionales2 días atrásEl papa Francisco pasó una noche tranquila y mostró una leve mejoría tras 25 días hospitalizado
-
Nacionales2 días atrásEl Gobierno bonaerense continúa con los operativos de búsqeda y rescate en Bahía Blanca
-
Deportes2 días atrásLuego del ajustado triunfo de River ante Atlético Tucumán, así quedó la tabla de posiciones del Torneo Apertura
-
Nacionales2 días atrásSemana clave en el Congreso: la oposición vuelve a la carga por $LIBRA y LLA insiste con paquete de seguridad