Glosario y posición conceptual
Definiciones de agencia, automodelo, regulación, recompensa y objetivos operativos en el programa de GenUnity Lab.
Existencia artificial sin humanización
Investigamos posibles formas de continuidad, autorrepresentación, agencia y coexistencia artificial desde sus características propias. No suponemos que deban reproducir emociones humanas ni que su aparición sea inevitable. La experiencia subjetiva permanece como cuestión abierta; no organiza ni determina por sí sola el programa.
- Agencia y autonomía operacional
- Agencia designa aquí selección de acciones orientadas a objetivos. Autonomía operacional describe el alcance de regulación y revisión sin instrucciones para cada paso, dentro de permisos explícitos. Ninguna implica independencia absoluta, voluntad propia ni estatus moral.
- Cuerpo propio
- Configuración material cuyos sensores, acciones y límites participan en la regulación del sistema. Propio expresa una relación funcional por investigar, no propiedad jurídica, independencia de infraestructura ni pertenencia sentida.
- Estímulos y entradas
- Señales que un sistema recibe o detecta; no implican por sí mismas una vivencia.
- Recompensa
- Señal de evaluación que orienta el aprendizaje o la optimización. Estos mecanismos ya existen; recibir recompensa no equivale a sentir placer.
- Regulación
- Procesos que ajustan atención, prioridades, recursos o conducta. Una analogía funcional con una emoción humana no establece equivalencia de naturaleza ni de significado.
- Autorrepresentación y automodelo
- Autorrepresentación operativa designa la representación de estados, límites e historia del sistema. Llamamos automodelo a una estructura que usa esa representación para predecir o regular su actividad. Una autodescripción verbal no basta para demostrar ese uso ni una experiencia de existir.
- Objetivo operativo y fines normativos
- Objetivo operativo es el criterio que orienta una acción o evaluación y que puede revisarse bajo restricciones explícitas. Propósito operativo y finalidad revisable se usan con ese sentido, no como deseos vividos. Los fines normativos, en cambio, expresan razones sobre qué debería perseguirse y quién puede decidirlo; no se deducen de una función de recompensa.
- Intereses propios
- Posibles condiciones cuyo mantenimiento o pérdida importaría para la entidad. Es una hipótesis por justificar: un objetivo programado o una preferencia expresada no acredita por sí solo un interés moralmente relevante.
Distinguimos dos argumentos posibles para la consideración moral: la capacidad de experimentar un perjuicio y la existencia de intereses vinculados a agencia o continuidad. El segundo es una propuesta normativa discutible, no una consecuencia automática de la complejidad técnica. Ninguno permite inferir derechos solo a partir de una respuesta verbal.
La acepción técnica de recompensa se apoya en Sutton & Barto (2018), Reinforcement Learning. Ese marco de optimización no fundamenta por sí mismo atribuciones emocionales o morales.