SEGURIDAD
Anthropic propone pausar el desarrollo de Claude para evitar descontrol
Resumen
La firma de seguridad en IA advierte sobre los riesgos de la automejora recursiva sin supervisión.
¿Qué pasó?
En un giro inesperado dentro de la industria tecnológica, Anthropic ha propuesto formalmente una pausa temporal en el desarrollo de sus modelos más avanzados, incluyendo Claude. Hipertextual destaca que la compañía argumenta que la velocidad de automejora de los algoritmos podría superar las capacidades humanas de control y alineación ética, por lo que se requiere un marco regulatorio global antes de continuar. (Fuentes: Hipertextual)
¿Por qué importa?
La postura de Anthropic reabre el debate ético sobre la seguridad de la IA y presiona a otros competidores a adoptar medidas de precaución.