GenUnity Lab

Glosario y posición conceptual

Definiciones de agencia, automodelo, regulación, recompensa y objetivos operativos en el programa de GenUnity Lab.

Existencia artificial sin humanización

Investigamos posibles formas de continuidad, autorrepresentación, agencia y coexistencia artificial desde sus características propias. No suponemos que deban reproducir emociones humanas ni que su aparición sea inevitable. La experiencia subjetiva permanece como cuestión abierta; no organiza ni determina por sí sola el programa.

Agencia y autonomía operacional
Agencia designa aquí selección de acciones orientadas a objetivos. Autonomía operacional describe el alcance de regulación y revisión sin instrucciones para cada paso, dentro de permisos explícitos. Ninguna implica independencia absoluta, voluntad propia ni estatus moral.
Cuerpo propio
Configuración material cuyos sensores, acciones y límites participan en la regulación del sistema. Propio expresa una relación funcional por investigar, no propiedad jurídica, independencia de infraestructura ni pertenencia sentida.
Estímulos y entradas
Señales que un sistema recibe o detecta; no implican por sí mismas una vivencia.
Recompensa
Señal de evaluación que orienta el aprendizaje o la optimización. Estos mecanismos ya existen; recibir recompensa no equivale a sentir placer.
Regulación
Procesos que ajustan atención, prioridades, recursos o conducta. Una analogía funcional con una emoción humana no establece equivalencia de naturaleza ni de significado.
Autorrepresentación y automodelo
Autorrepresentación operativa designa la representación de estados, límites e historia del sistema. Llamamos automodelo a una estructura que usa esa representación para predecir o regular su actividad. Una autodescripción verbal no basta para demostrar ese uso ni una experiencia de existir.
Objetivo operativo y fines normativos
Objetivo operativo es el criterio que orienta una acción o evaluación y que puede revisarse bajo restricciones explícitas. Propósito operativo y finalidad revisable se usan con ese sentido, no como deseos vividos. Los fines normativos, en cambio, expresan razones sobre qué debería perseguirse y quién puede decidirlo; no se deducen de una función de recompensa.
Intereses propios
Posibles condiciones cuyo mantenimiento o pérdida importaría para la entidad. Es una hipótesis por justificar: un objetivo programado o una preferencia expresada no acredita por sí solo un interés moralmente relevante.

Distinguimos dos argumentos posibles para la consideración moral: la capacidad de experimentar un perjuicio y la existencia de intereses vinculados a agencia o continuidad. El segundo es una propuesta normativa discutible, no una consecuencia automática de la complejidad técnica. Ninguno permite inferir derechos solo a partir de una respuesta verbal.

La acepción técnica de recompensa se apoya en Sutton & Barto (2018), Reinforcement Learning. Ese marco de optimización no fundamenta por sí mismo atribuciones emocionales o morales.

Líneas de investigación