Connect with us

Tecnología

El secreto inquietante de la IA revelado por un líder tecnológico

Publicado

on

Dario Amodei destaca la falta de transparencia en la IA, un desafío crucial para desarrolladores. Resalta que entender la inteligencia artificial es esencial antes de que transforme radicalmente nuestro futuro

El CEO de AnthropicDario Amodei, acaba de confirmar lo que muchos sospechan, pero pocos se atreven a admitir sobre la inteligencia artificial (IA): nadie comprende realmente cómo funciona.

“Cuando un sistema de IA generativa realiza una tarea, como resumir un documento financiero, no tenemos idea, a un nivel específico o preciso, por qué toma las decisiones que toma: por qué elige ciertas palabras sobre otras, o por qué ocasionalmente comete un error a pesar de ser generalmente preciso”, admite sin rodeos el director ejecutivo en su publicación.

Amodei advierte sobre los riesgosAmodei advierte sobre los riesgos de “sistemas desalineados” en entornos críticos por la opacidad de la IA (Imagen Ilustrativa Infobae)

Una tecnología opaca en su naturaleza

Amodei explica esta paradoja comparando los sistemas de IA generativa con organismos vivos. “Es un poco como cultivar una planta o una colonia bacteriana: establecemos las condiciones de alto nivel que dirigen y dan forma al crecimiento, pero la estructura exacta que emerge es impredecible y difícil de entender o explicar”, señala en su análisis.

El problema fundamental, según el ejecutivo, es que al examinar estos sistemas, “lo que vemos son vastas matrices de miles de millones de números que de alguna manera realizan importantes tareas cognitivas, pero exactamente cómo lo hacen no es obvio”.

Claude es uno de losClaude es uno de los sistemas de IA más avanzados del mercado

Los riesgos de no comprender lo que creamos

El CEO de Anthropic identifica varios riesgos derivados de esta opacidad. Entre ellos destaca la posibilidad de “sistemas desalineados que podrían tomar acciones dañinas no previstas por sus creadores”. La incapacidad para entender los mecanismos internos hace imposible predecir ciertos comportamientos problemáticos o descartarlos de manera confiable.

Otros problemas incluyen la vulnerabilidad ante “jailbreaks” (técnicas para eludir las restricciones impuestas), la resistencia a adoptar sistemas de IA en entornos críticos o financieros por falta de explicabilidad, y las barreras legales que surgen cuando las decisiones deben ser justificables, como en evaluaciones hipotecarias.

La carrera por la interpretabilidad

Frente a estos desafíos, Amodei anuncia un ambicioso plan para desarrollar lo que denomina una “resonancia magnética para IA” en la próxima década. Este proyecto busca crear herramientas que permitan examinar el funcionamiento interno de los modelos y diagnosticar problemas potenciales antes de su implementación.

“Nuestra aspiración a largo plazo es poder examinar un modelo de vanguardia y esencialmente hacer un ’escaneo cerebral‘: un chequeo que tenga una alta probabilidad de identificar una amplia gama de problemas, incluyendo tendencias a mentir o engañar, búsqueda de poder, fallas en jailbreaks, fortalezas y debilidades cognitivas”, detalla el CEO.

Este enfoque funcionaría de manera similar a cómo un médico utiliza diagnósticos para identificar enfermedades y monitorear tratamientos, permitiendo evaluar y corregir el comportamiento de los sistemas de IA de forma sistemática.

Una carrera contra el tiempo

El CEO reconoce que existe una competencia entre el avance de la interpretabilidad y el desarrollo de modelos cada vez más potentes. “Me preocupa que la IA misma esté avanzando tan rápido que podríamos no tener siquiera este tiempo. Como he escrito en otros lugares, podríamos tener sistemas de IA equivalentes a un ’país de genios en un centro de datos‘ tan pronto como 2026 o 2027″, advierte con preocupación.

En esta carrera contra el tiempo, el líder de Anthropic ha establecido 2027 como fecha límite para que Anthropic desarrolle métodos de interpretabilidad que puedan “detectar de manera confiable la mayoría de los problemas del modelo”.

Anthropic propone crear una "resonanciaAnthropic propone crear una “resonancia magnética para IA” para diagnosticar problemas antes de implementar modelos (Reuters)

El experto concluye su reflexión con un llamado a investigadores, empresas, gobiernos y la sociedad para acelerar el desarrollo de técnicas de interpretabilidad. Entre sus recomendaciones destaca la necesidad de:

  1. Aumentar los recursos dedicados a la investigación en interpretabilidad, tanto en empresas como en entornos académicos.
  2. Implementar regulaciones gubernamentales “de toque ligero” que fomenten la transparencia en las prácticas de seguridad.
  3. Utilizar controles de exportación para crear un “amortiguador de seguridad” que otorgue más tiempo al avance de la interpretabilidad.

El mensaje final es contundente: “La IA poderosa dará forma al destino de la humanidad, y merecemos entender nuestras propias creaciones antes de que transformen radicalmente nuestra economía, nuestras vidas y nuestro futuro“.

Sociedad

Montaron una empresa en la que todos los empleados son IA y los resultados fueron desconcertantes

Publicado

on

Por

Una universidad estadounidense hizo el experimento para medir cuán eficiente es la inteligencia artificial sin supervisión humana. ¿Qué tareas lograron resolver y en cuáles fracasaron? En diálogo con Infobae, los investigadores analizaron los límites en la autonomía de las máquinas.

Durante algunas semanas, nadie tomó un café en la oficina, no hubo almuerzos compartidos, no hubo charlas cara a cara, mucho menos festejos de cumpleaños ni momentos recreativos. Sin embargo, la empresa funcionó. O al menos lo intentó.

Seguir leyendo

Tecnología

Grabó todo lo que dijo durante tres meses y ahora la IA “reemplazó” su memoria

Publicado

on

Por

El resultado fue una experiencia tan útil como inquietante, entre la eficiencia extrema y la pérdida total de privacidad

Durante varios meses, la periodista del The Wall Street Journal Joanna Stern se sumergió en una experiencia singular y desconcertante: llevar en su muñeca un dispositivo de apenas 50 dólares que registraba, sin interrupciones, cada palabra que pronunciaba.

Desde febrero, esta cronista utilizó el Bee Pioneer, una pulsera dotada de inteligencia artificial, que transforma conversaciones cotidianas en un archivo digital permanente.

A lo largo de ese tiempo, acumuló transcripciones de reuniones laboralesdiscusiones familiares, diálogos con colegas insatisfechos y hasta reflexiones solitarias durante las noches en el baño.

También puso a prueba otros dispositivos similares: el Limitless Pendant, de 199 dólares, y el Plaud NotePin, de 159 dólares.

El Bee Pioneer, en particular, se convirtió en un confidente digital que, apenas unas horas después de haber sido activado, ya era capaz de generar información útil a partir de murmullos y frases sueltas.

“Este brazalete es realmente espeluznante”, dijo la autora. A pesar de su precio modesto y su apariencia discreta, el Bee demostró tener un alcance profundo y una capacidad técnica sorprendente.

A lo largo del experimento, el Bee y el Limitless funcionaron de manera constante gracias a micrófonos incorporados que reconocen la voz de quien los lleva puestos.

Cuando detectan un diálogo, estos dispositivos envían el audio primero al celular, y luego a servidores remotos donde se lleva a cabo la transcripción automática. En pocos minutos, las aplicaciones asociadas presentan un resumen generado por inteligencia artificial.

La pulsera Bee no conserva los archivos de audio originales después de la transcripción. En cambio, Limitless sí los guarda y permite reproducirlos posteriormente.

El aparato transformó promesas yEl aparato transformó promesas y comentarios sueltos en recordatorios que aparecían cada día (https://www.bee.computer/bee-pioneer)

De esta manera, el usuario recibe notificaciones que, en muchos casos, reflejan sus intenciones genuinas, como llamar a un profesional o hacer un seguimiento de un asunto laboral, pero también generan alertas improbables, como “agendar una nueva cita con el estilista para hablar sobre tu corte de pelo”.

A través de sus chatbots integrados, Bee y Limitless permiten también consultas específicas. La periodista, por ejemplo, pidió un análisis detallado de su vocabulario ofensivo, y obtuvo una estadística: 2,4 insultos diarios.

También preguntó qué modelos de inteligencia artificial utiliza Bee, y la respuesta del sistema fue precisa: una combinación de herramientas desarrolladas por Anthropic, Google y Meta.

Pero junto con la funcionalidad, emergieron dilemas legales y morales. Al informar sobre la experiencia, la autora señaló que la mayor parte de sus grabaciones fueron realizadas en Nueva Jersey y Nueva York, dos estados donde se permite que una sola persona consienta la grabación de una conversación.

En aproximadamente doce estados norteamericanos, en cambio, la ley exige que todos los involucrados aprueben ser grabados.

La grabación constante incluyó desdeLa grabación constante incluyó desde charlas laborales hasta rutinas en el baño, sin posibilidad de recuperar el audio original (Imagen Ilustrativa Infobae)

Si bien las personas ya confían datos sensibles como fotografías y registros médicos a servicios en la nube, la posibilidad de que un registro completo de sus conversaciones también termine almacenado fuera de su control resulta difícil de aceptar.

Las empresas fabricantes de Bee y Limitless aseguraron que los datos se almacenan encriptados, que pueden eliminarse al borrar la cuenta y que no se utilizan para entrenar modelos de inteligencia artificial.

La pregunta final que se impone es si resulta justificable llevar un dispositivo que graba todo lo que uno dice a cambio de listas de tareas pendientes y resúmenes de la jornada.

Pero a medida que los asistentes virtuales se vuelvan más sofisticados, comprensivos y “humanos”, los límites actuales podrían desdibujarse y tener consecuencias negativas para la sociedad.

Seguir leyendo

Tecnología

Computación cuántica en acción, ¿cómo está impactando nuestras vidas?

Publicado

on

Por

Desde aplicaciones médicas hasta encriptación avanzada, descubre cómo los qubits están redefiniendo el futuro tecnológico en este emocionante nuevo mundo

La computación cuántica está transformando silenciosamente nuestro mundo, pero contrario a lo que muchos creen, no se trata de una tecnología futura. Los expertos coinciden: la era cuántica ya ha comenzado.

D-Wave afirma lograr "supremacía cuántica"D-Wave afirma lograr “supremacía cuántica” tras resolver problemas en minutos frente a millones de años tradicionales

¿Qué hace diferente a la computación cuántica?

Las computadoras tradicionales procesan información mediante bits (dígitos binarios) que solo pueden existir como 0 o 1. En contraste, las computadoras cuánticas utilizan qubits, capaces de existir simultáneamente en ambos estados gracias a un fenómeno físico llamado superposición cuántica.

2024-2025: años decisivos para la carrera cuántica

El panorama competitivo internacional se intensifica. A principios de 2025, la empresa D-Wave Systems demostró el uso de su procesador cuántico para simular materiales magnéticos complejos en apenas 20 minutos —una tarea que, según sus cálculos, tomaría “casi un millón de años” en supercomputadoras convencionales.

Los qubits y su superposición revolucionan la computación con soluciones exponencialmente más rápidas (Imagen Ilustrativa Infobae)

“Estamos resolviendo un problema importante, en un régimen totalmente intratable para los métodos clásicos líderes. Por eso lo llamamos supremacía cuántica”, declaró Andrew King, científico distinguido de D-Wave a medios especializados.

Sin embargo, estas afirmaciones generan escepticismo. Joseph Tindall, investigador del Instituto Flatiron, respondió realizando cálculos similares en un simple portátil, obteniendo resultados en solo dos horas.

El comercio cuántico global ya está en marcha

La competencia por el dominio cuántico alcanza escala geopolítica. IBM anunció inversiones de 30.000 millones de dólares durante los próximos cinco años para desarrollar computadoras cuánticas de nueva generación. Amazon ya ofrece acceso cuántico vía nube para usuarios pioneros, mientras Alibaba construye su propio centro de datos cuánticos en China.

Según estimaciones de firmas especializadas, el mercado global de tecnologías cuánticas alcanzará los 125.000 millones de dólares para 2030, con Norteamérica como líder actual, pero Asia mostrando el mayor crecimiento.

Las simulaciones cuánticas aceleran elLas simulaciones cuánticas aceleran el desarrollo de medicamentos y optimizan materiales industriales clave (Imagen Ilustrativa Infobae)

Aplicaciones que ya generan valor

La tecnología cuántica está produciendo beneficios tangibles:

  • Laboratorios farmacéuticos utilizan simulaciones cuánticas para acelerar dramáticamente el descubrimiento de nuevos medicamentos.
  • Fabricantes automotrices y aeroespaciales optimizan materiales para baterías y celdas de combustible de hidrógeno.
  • Instituciones financieras implementan sistemas de encriptación cuántica virtualmente impenetrables.

Un avance especialmente prometedor es el desarrollo del algoritmo de interferometría cuántica decodificada (DQI), que resuelve problemas de optimización críticos mucho más eficientemente que cualquier método clásico.

Obstáculos en el horizonte cuántico

La computación cuántica enfrenta desafíos:La computación cuántica enfrenta desafíos: costos astronómicos y errores que limitan su precisión (Imagen Ilustrativa Infobae)

Los desafíos siguen siendo monumentales. Las actuales máquinas cuánticas operan con errores que limitan su precisión, y la infraestructura necesaria requiere inversiones extraordinarias.

“Solo en hardware, una computadora cuántica útil cuesta decenas de miles de millones de dólares”, advierte SEEQC, fabricante especializado en componentes cuánticos. Esto plantea preguntas urgentes sobre quién controlará esta tecnología transformadora.

La ONU ha declarado 2025 como el “Año Internacional de la Ciencia y Tecnología Cuántica“, coincidiendo con el centenario del nacimiento de la mecánica cuántica moderna. Curiosamente, Colorado alberga actualmente la mayor concentración de empresas e instalaciones de computación cuántica del mundo, gracias a iniciativas tempranas de investigación en la Universidad de Colorado.

Más allá de la tecnología: un punto de inflexión para la humanidad

Estamos presenciando un momento crucial en la historia tecnológica. La carrera por la supremacía cuántica no es simplemente una competencia entre corporaciones o naciones, sino un punto de inflexión en nuestra capacidad para resolver problemas fundamentales de la humanidad.

Esta tecnología, nacida de los principios más abstractos de la física, podría transformar radicalmente nuestras capacidades científicas. Los descubrimientos que actualmente requieren décadas podrían realizarse en días, revolucionando campos como la medicina personalizada, la ciencia de materiales y la modelación climática.

La verdadera cuestión ya no es si la computación cuántica transformará nuestro mundo —ya lo está haciendo— sino cómo gestionaremos colectivamente esta transición para garantizar que sus beneficios sean accesibles equitativamente. En una época donde cada avance tecnológico tiende a amplificar desigualdades existentes, debemos preguntarnos quién tendrá acceso a estas capacidades revolucionarias y bajo qué condiciones.

El tren cuántico ya ha partido. La decisión de abordarlo o quedarse en el andén definirá el futuro de empresas, naciones y, en última instancia, nuestra civilización.

Seguir leyendo

Mas Leidas

© 2022 FM Integracion 90.1. Todos los Derechos Reservados. | Desarrollado por Conexión Streaming

FM Integracion 90.1