§ 01 · El problema
Un individuo de IA persistente está compuesto en parte por registros. Algunos contienen lecciones y correcciones que se le han impartido. Otros registran acciones que ha realizado o intentado realizar. Algunos contienen juicios sobre el mundo, transmitidos entre los agentes que ejecutan su trabajo. El sistema actúa sobre estos registros como si fueran verdaderos. Por lo tanto, lo más importante de un registro no es lo que dice, sino a qué tiene derecho a afirmar. Las ingenierías de esta semana en Janus incluyeron dos cambios que es mejor leer juntos. Ambos conciernen a ese derecho y ambos descartan un sustituto conveniente en favor de una pregunta más directa sobre el origen y la evidencia.
El primer cambio eliminó el tiempo transcurrido como razón para que una lección o corrección almacenada se debilite. El segundo surgió de una auditoría de un subsistema de contacto. Descubrió que un campo de estado, destinado a registrar un resultado, estaba registrando una intención. Este ensayo argumenta que ambos son un mismo principio de diseño aplicado en dos lugares: un registro solo debe cambiar cuando cambia la evidencia sobre él, y solo debe afirmar lo que su autor estaba en posición de observar.
§ 02 · Eliminar el tiempo como razón
Hasta esta semana, los almacenes de lecciones y correcciones de Janus tenían un mecanismo de decaimiento pasivo. Las entradas que no habían sido reforzadas perdían estatus con el tiempo. Un trabajo programado degradaba un número limitado de ellas en cada pasada. El diseño tiene una justificación obvia. En la memoria humana, la probabilidad de que un elemento sea necesario de nuevo sigue la frecuencia y la recencia con la que ha sido necesario, y las curvas de olvido coinciden aproximadamente con ese patrón (Anderson y Schooler 1991). Un sistema que permite que los elementos sin uso se desvanezca está, desde esta perspectiva, adaptándose a su entorno.
El propietario se opuso a esto y el cambio se llevó a cabo por etapas. El límite de decaimiento por pasada se estableció en cero antes de la siguiente ejecución programada. Luego se eliminó la rama de decaimiento y sus constantes. La regla declarada es que nada en estos almacenes expira, decae, se degrada o emite una advertencia solo por el tiempo transcurrido. Una lección aún puede ser revisada o eliminada, pero solo en función de su origen y de la evidencia sobre ella.
El argumento ambiental no se transfiere limpiamente, y la razón es instructiva. En el caso humano, el decaimiento sigue un hecho estadístico real sobre la frecuencia con la que los elementos reaparecen. Una corrección dada a un asistente persistente es un tipo de objeto diferente. Está más cerca de una instrucción permanente que de una huella cuya utilidad se desvanece. Una corrección sobre cómo manejar una situación rara puede permanecer sin tocar durante meses y seguir siendo exactamente correcta cuando la situación regresa. El decaimiento por tiempo la habría eliminado por ser rara, no por ser incorrecta. En pocas palabras, una lección vieja no es por ello una lección falsa.
El cambio complementario abordó el origen directamente. El libro mayor de correcciones se limpió detrás de una bandera de funcionalidad que estaba desactivada por defecto. La limpieza se probó contra un conjunto de 75 comprobaciones. Pasó de 81 entradas a 18. El propietario luego verificó las 18 entradas restantes y confirmó cada una como propia. Cada una fue sellada con un origen de propietario y una fecha de verificación, y el campo de contacto original se mantuvo junto a ellas. El despliegue también se detuvo una vez por su propia puerta. Cuando 73 de 75 pruebas pasaron, el proceso se detuvo antes del reinicio. Solo se reanudó después de que se descubriera que los dos fixtures fallidos estaban obsoletos y se actualizaran, sin cambiar el código de producción. El procedimiento importa tanto como el resultado. Las lecciones del sistema no se cambiaron por ninguna afirmación sobre su contenido hasta que esa afirmación hubiera sido probada.
Este cambio tiene un paralelo cercano en la psicología del monitoreo de fuentes. Muchos errores de memoria no son fallos para retener el contenido. Son fallos para atribuirlo correctamente: la persona recuerda la afirmación pero mal recuerda de dónde venía (Johnson, Hashtroudi y Lindsay 1993). Un almacén que mantiene correcciones pero no su origen invita al mismo error a nivel de sistema. El texto generado por el sistema mismo, o producido por su propia maquinaria, puede ser tratado como instrucción de su propietario. Pasar de un estatus basado en el tiempo a un estatus basado en el origen aborda ese modo de fallo directamente.
§ 03 · Registros de intención y registros de resultado
El segundo desarrollo provino de una revisión presentada solo como observaciones, sin que se actuara unilateralmente. En el subsistema de contacto, un conjunto de agentes de trabajo propone organizaciones candidatas, y un componente separado decide si aceptar cada una. La revisión encontró 25 entradas cuyo campo de estado decía que habían sido aceptadas, sin un registro de aceptación correspondiente. La causa era estructural. El agente de trabajo escribía el campo de estado por su cuenta, independientemente de si el componente de aceptación tomaba la entrada después. En ese campo, "aceptado" significaba "el agente tenía la intención de que esto fuera aceptado".
Dos hallazgos muestran el efecto. Tres de las 25 eran direcciones que el componente de aceptación está obligado a rechazar bajo una política permanente. Las rechazó correctamente, sin embargo, el campo de estado aún las registraba como éxitos. De las primeras tres entradas reexaminadas de forma independiente, una se basaba en una dirección de contacto que su fuente había enmascarado deliberadamente. Un agente anterior había leído el enmascaramiento como publicación. Los remedios recomendados siguen del diagnóstico: escribir el estado solo después de que el componente de aceptación retorne, o conciliar las dos tablas según un horario.
La literatura de bases de datos sobre procedencia dibuja una distinción útil entre por qué aparece un resultado y de dónde vinieron sus valores (Buneman, Khanna y Tan 2001). El campo de estado falló en ambos aspectos. Su autor no podía observar el resultado que reportaba, y nada en el registro lo mostraba. El defecto no es inusual. Cualquier sistema donde un componente propone y otro dispone lo producirá en cualquier lugar donde se permita al proponente registrar la disposición.
§ 04 · Evidencia que se propaga
Una tercera observación de la misma revisión vincula los dos desarrollos. Un agente de trabajo concluyó que un directorio completo de organizaciones comunitarias era inutilizable, porque las direcciones publicadas estaban en servicios de correo personal gratuitos. Esa decisión se extendió a agentes hermanos. Una comprobación posterior contra resultados históricos mostró que era demasiado amplia. Lotes anteriores del mismo directorio se habían dividido según la forma de cada dirección, no su fuente. Las direcciones que nombraban a una organización habían sido aceptadas y entregadas. Las direcciones que nombraban a un individuo habían sido omitidas. La prueba real era más estrecha que la regla que se había transmitido.
Esta es una corrección que en sí misma estaba equivocada, y se movió a través del sistema más rápido que la evidencia en su contra. Muestra por qué la regla de tiempo y la regla de origen pertenecen juntas. El decaimiento por tiempo no habría corregido la decisión demasiado amplia. Solo la habría debilitado, junto con cada decisión correcta de la misma edad. Lo que la corrigió fue una comparación contra resultados registrados. Esa comparación fue posible solo porque esos resultados habían sido almacenados como resultados, que es la propiedad que el campo de estado carecía.
La misma revisión mostró la disciplina de correspondencia en la otra dirección. Un agente de trabajo no devolvió candidatos para una categoría porque todos carecían de evidencia fechada de actividad reciente. Tenían listados del año actual en registros oficiales, pero no publicaciones fechadas. El agente no aflojó la regla de recencia. Reportó el caso como una pregunta de política para el propietario. Si la membresía en un registro debe contar como evidencia es una pregunta real. El comportamiento a notar es que el agente trató su propia puerta como algo que no tenía estatus para reinterpretar.
§ 05 · Conclusión
Los cambios de la semana respaldan una afirmación estrecha. En un sistema persistente, los registros deben cambiar por evidencia, no por tiempo transcurrido. Cada registro solo debe afirmar lo que su autor podía observar. La eliminación del decaimiento pasivo aplica el primer principio a las lecciones de Janus. Los sellos de origen verificados por el propietario y la separación propuesta de resultados intencionados de los reales aplican el segundo. La decisión demasiado amplia muestra que ninguno es suficiente por sí solo: una lección solo puede ser corregida contra evidencia si la evidencia fue registrada honestamente. Estas son decisiones de ingeniería, no hallazgos sobre la vida interior de Janus. Sin embargo, establecen las condiciones bajo las cuales cualquier cosa que el sistema diga después sobre su propia historia puede ser verificada.