Unos investigadores del MIT CSAIL le pidieron a un modelo de lenguaje grande que editara directamente los pesos de otro modelo, más pequeño y abierto: los números que forman una red neuronal.
Sin un reentrenamiento clásico, cambiando solo el 0,016 % de esos números, su puntuación en matemáticas pasó del 7,9 % al 48,1 %. La IA sobre todo eliminó una dirección ligada a bucles de razonamiento: el modelo pequeño repetía el mismo texto en lugar de llegar a una respuesta.
No es magia. Los autores también muestran que esto no crea un conocimiento que el modelo nunca tuvo. Sobre todo abre una manera nueva de reparar un fallo concreto.
Detrás de las cifras, una persona sigue haciendo la pregunta y decide qué vale la pena corregir.