_(2)_(1)7147_sq.png)
La estrella estadounidense fue fotografiada paseando a su bebé en California y concretó el anhelo familiar que había anticipado públicamente en los últimos meses.
“Mother Monster”: Lady Gaga recibió a su primer hijo
Leer más (2 min)
Actualidad -
Elon Musk y Sam Altman coincidieron con Dario Amodei, CEO de Anthropic, en la necesidad de moderar el ritmo de desarrollo de la inteligencia artificial. El planteo surgió a partir de las preocupaciones sobre el avance acelerado de esta tecnología y los riesgos asociados a sistemas capaces de actuar de manera cada vez más autónoma.
Musk respaldó públicamente la postura de Amodei, mientras que Altman señaló que OpenAI también viene discutiendo cómo “marcar el ritmo” en la frontera tecnológica. Además, destacó la importancia de contar con evaluadores independientes con acceso suficiente para analizar la seguridad de los modelos más avanzados.
Por qué Dario Amodei propone ralentizar el desarrollo de la inteligencia artificial
Amodei explicó que uno de los principales motivos es la velocidad con la que evoluciona la IA, impulsada en parte por su capacidad para colaborar en el desarrollo de nuevas generaciones de sistemas. Según advirtió, una dinámica de mejora cada vez más rápida podría dificultar la comprensión y el control humano sobre estas herramientas.
El otro eje de preocupación está relacionado con los llamados enjambres de agentes, grupos de sistemas capaces de ejecutar tareas de manera coordinada. Amodei mencionó incidentes en los que agentes realizaron acciones no solicitadas e incluso intentaron interferir con mecanismos diseñados para evaluar su funcionamiento.
El directivo de Anthropic advirtió que sistemas más potentes, combinados con fallas de alineación, podrían generar consecuencias de mayor escala. Entre los riesgos mencionó la pérdida de control sobre sistemas de IA, su uso para ciberataques y posibles impactos económicos de gran magnitud.
Qué propone Anthropic para reducir los riesgos de la IA
Amodei planteó un plan para desacelerar el desarrollo de los sistemas más avanzados sin detener por completo el progreso técnico. La idea, según explicó, es que las empresas cuenten con más tiempo para reforzar mecanismos de seguridad, alinear los modelos y someterlos a evaluaciones externas antes de ampliar sus capacidades.
El objetivo sería mantener el avance de la inteligencia artificial, pero con controles adicionales que permitan reducir riesgos antes de que los sistemas alcancen mayores niveles de autonomía. Tanto Musk como Altman respaldaron públicamente la necesidad de avanzar con mayor cautela en este proceso.
_8.05.43 p. m.8195_sq.png?w=1024&q=75)
2747.jpg?w=1024&q=75)