Este jueves, la empresa de tecnología Anthoropic alerto que los sistemas de inteligencia artificial (IA) pondrán se capaces de mostrar su propia autonomía creando a su “propio sucesor”, razón por la cual solicitó una “pausa” internacional para asimilar su impacto.
En este sentido, la advertencia por parte de la corporación se da ante la llegada de la “automejora recursiva”, este proceso mediante el cual el software diseña su propia evolución, la cual “no es inevitable” y “puede llegar antes de que muchas instituciones estén preparadas”.
LEE TAMBIÉN: ROBOT DE LA NASA ENCUENTRA RUINAS DE CIUDADES MILENARIAS EN MARTE
El informe firmado por el cofundador de Anthropic, Jack Clark, y la directora de The Anthropic Institute, Marina Favaro, detalla los peligros de esta transición sin ninguna supervisión pública, señalando que si el sistema se independiza podría “incrementar los riesgos de que los humanos pierdan el control de los sistemas de IA”, por lo que “los modos de hacerlos seguros, supervisarlos y dar forma a su comportamiento se vuelven mucho más importantes”.
Hay que vigilar a la IA y su autonomía
En este sentido, la firma considera que “probablemente sea bueno” desacelerar el ritmo comercial para analizar las “inmensas implicaciones” de la herramienta. La propuesta consiste en frenar o pausar temporalmente el desarrollo de la IA de frontera, para permitir que las normas estatales alcancen a seguir el ritmo de la tecnología, estableciendo mecanismos para verificar que los competidores y laboratorios “bien financiados” decidan “aceptar detenerse bajo las mismas condiciones” y evitar el auge de un “mal actor”.
Asimismo, para viabilizar esta iniciativa de seguridad, los investigadores puntualizaron que “una pausa creíble también tiene que especificar qué la desencadena, qué la levanta y quién la arbitra”.
TE PUEDE INTERESAR: CHINA PRESENTA SISTEMA DE “IDENTIFICACIÓN DIGITAL” PARA ROBOTS HUMANOIDES
La urgencia de la discusión se refleja en la propia base operativa de la empresa, debido a que en un periodo de apenas 16 meses, la participación humana en la programación del sistema de Anthropic se redujo drásticamente.
En febrero de 2025, los ingenieros humanos programaban más del 90 por ciento del código, mientras que la IA (Claude) hacía menos del 10 por ciento. En la actualidad, la IA muestra su autonomía escribiendo más del 80 por ciento del código y los humanos menos del 20 por ciento.
POR ESTA RAZÓN LA IA PODRÍA AFECTAR A TU CEREBRO:
Uso de la Inteligencia Artificial, aunque sea poco, afecta la inteligencia humana
Fuente: TeleSur
Foto: Delatorre.ai
Ciudad Valencia/SkV/
