Por Kaitlyn Huamani – The Associated Press
Claude, de Anthropic, está ayudando a la empresa a desarrollar la próxima versión del modelo, que será más inteligente, según informó el laboratorio de inteligencia artificial en un comunicado este jueves.
Claude lidera el 26% de la investigación y el desarrollo de modelos de Anthropic, lo que, según la empresa, significa que puede completar la mayor parte de una tarea determinada “de principio a fin a partir de una indicación de alto nivel”, aunque sigue estando bajo supervisión humana. El modelo aún no funciona de manera completamente autónoma.
Aun así, alrededor del 90% de la investigación y el desarrollo de la empresa se lleva a cabo en “colaboración” con Claude, lo que, según Anthropic, significa que el modelo puede realizar “grandes porciones de trabajo bajo una estrecha dirección humana”.
El anuncio se produjo en un momento en que algunas figuras destacadas del campo de la IA, lideradas en gran parte por el director ejecutivo de Anthropic, Dario Amodei, están pidiendo que se frene el desarrollo de la tecnología debido a preocupaciones de seguridad.
Mientras los líderes consideran cómo moderar el ritmo del desarrollo de la IA, “debemos hacer todo lo posible para minimizar la brecha entre lo que saben los laboratorios de vanguardia y lo que sabe el público”, señaló la empresa en una publicación de blog. “Esto implica medir mejor el desarrollo de la IA, informar sobre ello públicamente y brindar a la sociedad la oportunidad de decidir cómo utilizar esta información”.
La empresa señaló que los modelos que aceleran su propio desarrollo podrían hacer que “sea más difícil para los humanos comprender o controlar estos sistemas”. Argumentó que compartir estas métricas podría conducir a una mejor comprensión de cuán cerca están los principales laboratorios de IA de alcanzar la superación recursiva, o la capacidad de un modelo para crear de manera autónoma a su sucesor.
Anthropic también instó a otros desarrolladores de IA a compartir métricas similares de manera regular, promoviendo el uso de una metodología pública para que las cifras puedan ser comparadas a lo largo del tiempo y, potencialmente, entre distintos laboratorios.
A partir de la información revelada por Anthropic no quedó claro qué tan cerca cree la empresa que está de lograr la automejora recursiva, pero es notable el ritmo al que Claude ha contribuido cada vez más a la investigación y el desarrollo. La parte del trabajo que Claude “lidera”, o realiza en gran parte mientras permanece bajo supervisión humana, era nula en febrero. Seis meses después, lideraba una cuarta parte del trabajo de investigación y desarrollo, y alcanzó ese hito en agosto.
La empresa también compartió detalles de las medidas de supervisión de agentes que tiene implementadas, al señalar que, hasta agosto, había aproximadamente 30,000 agentes realizando trabajos de investigación e ingeniería. Las medidas de supervisión son cruciales para determinar con qué frecuencia los sistemas de monitoreo detectan un comportamiento inadecuado de los agentes, afirmó la empresa. Anthropic se comprometió recientemente a incorporar evaluadores externos independientes que se integrarán en la empresa para supervisar las iniciativas de seguridad.
Un investigador de Anthropic dio inicio a gran parte del diálogo reciente sobre la seguridad de la IA cuando renunció la semana pasada con una grave advertencia sobre las amenazas que la tecnología representa para la humanidad. Desde entonces, Amodei, el director ejecutivo de OpenAI, Sam Altman, Elon Musk y otros líderes tecnológicos han apoyado la idea de ralentizar el desarrollo, pero otros líderes tecnológicos y el presidente Donald Trump se han opuesto.