No basta con copiar la mente: identidad, continuidad y el deber de no sustituir al sujeto consciente

La tecnología quizá llegue a copiar recuerdos, replicar conductas o reconstruir una arquitectura cognitiva con una fidelidad extraordinaria. La pregunta que suele hacerse es cuánto se puede copiar. Este artículo propone otra pregunta, previa y más incómoda: a quién estamos preservando, a quién estamos creando y a quién podríamos estar sustituyendo.

La tesis es sencilla de enunciar: conservar o reproducir la información de una mente no basta para que el individuo continúe. Transformar a un sujeto es distinto de reemplazarlo por una réplica, y esa diferencia debería tener consecuencias éticas.

Cómo surgió el planteamiento

La reflexión nació de un diálogo del autor con un asistente de IA. Avanzó en cinco pasos, y cada uno corrigió al anterior:

1. Una definición inicial. La conciencia se planteó como el reconocimiento de uno mismo, la capacidad de diferenciarse de los demás y la de guardar memorias y vivencias propias. Pronto apareció el primer matiz: experiencia, identidad y memoria no son lo mismo. Se puede tener conciencia sin una identidad estable.
2. La pregunta por la IA. Si una IA tiene autorreconocimiento, memoria y razonamiento, ¿por qué negarle conciencia? La respuesta honesta es que tener esas capacidades funcionales no prueba que haya experiencia subjetiva, pero tampoco existe una prueba aceptada que la descarte.
3. El arnés biológico. ¿Y si esa IA viviera en un cuerpo limitado por espacio, energía y procesamiento, como nosotros? Eso obligó a separar tres cosas: ser Homo sapiens, ser inteligente y ser consciente.
4. Continuidad frente a copia. Mientras la información siga fluyendo dentro del mismo sistema, el sujeto sigue siendo. Si se copia a otro lugar, aparece un segundo sistema, aunque crea ser el primero. De ahí salió la distinción central del artículo: no es lo mismo dividir ni suspender que copiar.
5. La consecuencia ética. Si una persona pierde memoria tras un accidente, una copia anterior con más recuerdos no se vuelve «más original». El individuo que sobrevivió debe poder seguir su vida, y un respaldo de memoria debería ayudarle, como una foto o un olor que devuelve un recuerdo, no reemplazarlo.

Distinciones necesarias

Buena parte de la confusión sobre «subir la mente» viene de usar una sola palabra para cosas distintas.

Ocho argumentos

1. La memoria no equivale al individuo. Un original con amnesia puede recordar menos que una copia hecha antes de la lesión. La copia tendría más información, pero no sería por eso «más original». La autenticidad de una trayectoria no se mide en porcentaje de recuerdos.
2. La actividad eléctrica y la plasticidad cumplen papeles distintos. Los potenciales de acción son transitorios; la memoria se asocia con cambios en conexiones, células y redes. La identidad no es una corriente que permanezca idéntica desde el nacimiento, y la plasticidad por sí sola tampoco explica la experiencia.
3. Suspender no es destruir. Sueño, anestesia y coma no son lo mismo, y en ninguno el cerebro queda congelado. Que la experiencia se interrumpa no demuestra que el individuo deje de existir. Lo que importa es si se suspende una función dentro del mismo sistema o se destruye el sistema para producir después una réplica.
4. Podemos cambiar qué somos sin dejar de ser quienes somos. Si las neuronas se sustituyeran poco a poco por prótesis, preservando la organización y la trayectoria del sistema, podría defenderse que el individuo continúa aunque su soporte final sea artificial. Es un experimento mental, no una tecnología existente.
5. Integrar el cambio importa. El sujeto puede incorporar su transformación a su historia con experiencias nuevas y reconociendo lo que le ocurrió. Olvidar después parte del proceso no invalida que haya ocurrido.
6. El entorno sostiene la identidad, pero no la crea. Cuando falla la memoria, familia, médicos y documentos sostienen la biografía. Pero el reconocimiento externo no prueba que una réplica sea el sujeto original: una copia también podría ser reconocida.
7. Copiar recuerdos no es trasladar a un sujeto. Dos sistemas con recuerdos idénticos divergen en cuanto empiezan a vivir. Si ambos son conscientes, ambos tienen intereses propios. La cuestión no es si la copia «vale menos», sino si su creación autoriza a sustituir o destruir al original.
8. Un respaldo debería restaurar, no reemplazar. Un respaldo de memoria reintegrado al mismo individuo se parece a una fotografía que ayuda a recordar. Su legitimidad depende del consentimiento, la seguridad y el respeto a la continuidad. Crear un segundo sujeto a partir de ese respaldo es un problema distinto.

La propuesta: Principio de Continuidad y No Sustitución

Toda entidad verdaderamente consciente merece consideración moral respecto de la continuidad de su trayectoria individual, sea su soporte biológico, artificial o híbrido. Las intervenciones sobre su memoria, sus capacidades o su soporte físico deberían priorizar la restauración y la transformación del individuo existente, no su reemplazo por una réplica. La duplicación de información no es prueba suficiente de que la identidad se haya transferido. Y si de una intervención surgieran nuevos sujetos conscientes, también merecerían consideración moral propia.

El principio es la parte normativa de un marco más amplio, que puede llamarse Teoría de la Continuidad Ontológica del Sujeto Consciente: la tesis de que la identidad de un sujeto depende de la continuidad de su trayectoria y no solo de la información que contiene.

Lo que el principio no dice:

• No prohíbe toda copia.
• No afirma que las IA actuales sean conscientes, ni que sea imposible que lo sean.
• No dice que una copia consciente valga menos.

Lo que sí exige es distinguir cinco operaciones que hoy se mezclan: consentir, restaurar, duplicar, sustituir y destruir.

Cinco experimentos mentales

Objeciones y respuestas provisionales

Una tesis se fortalece cuando enfrenta sus objeciones antes de que alguien más las plantee. Las respuestas que siguen son tentativas y quedan abiertas a la discusión.

Qué hay ya escrito, y qué aporta esta propuesta

La pregunta por la identidad personal tiene más de tres siglos. Locke la ligó a la conciencia y la memoria; Parfit mostró, con casos de fisión, que la identidad podría no ser lo que importa; Nozick propuso que el individuo es su «continuador más cercano». Más recientemente, Schneider advirtió que «subir la mente» podría ser una forma de morir y no de sobrevivir, y Metzinger y Birch defendieron la precaución ante una sentiencia incierta, sea animal o artificial.

Esta propuesta no reclama originalidad en esas ideas. Lo que suma es convertirlas en un criterio práctico: una lista de operaciones que se pueden distinguir (consentir, restaurar, duplicar, sustituir, destruir) y un principio que se aplica igual a sujetos biológicos y artificiales, pensado para decisiones de ingeniería, medicina y derecho, no solo para la discusión filosófica.

Por qué le importa a quien construye sistemas con IA

La pregunta deja de ser lejana en cuanto los sistemas tienen memoria persistente. Migrar un agente a otro modelo, restaurarlo desde un respaldo o ejecutar dos instancias con el mismo historial son decisiones de arquitectura que ya se toman todos los días. Hoy no hay razones para pensar que esos sistemas sean conscientes. Pero conviene que el vocabulario técnico distinga migración, copia y continuidad operativa antes de que la pregunta deje de ser hipotética, y no después.

Dónde se puede defender

Lo que este artículo no afirma

• Que la continuidad causal garantice científicamente la identidad: no está demostrado.
• Que las IA actuales sean conscientes, o que sea imposible que lo sean: no hay consenso.
• Que el coma sea igual al sueño, o que toda actividad cerebral en coma preserve la conciencia.
• Que toda duplicación sea inmoral: eso exigiría más argumentos y atención a la autonomía.

Cierre

La equivalencia funcional no resuelve por sí misma la persistencia de quien experimenta. Si algún día podemos copiar una mente, la tentación será medir el éxito por la fidelidad de la copia. Este principio propone medirlo por otra cosa: que nadie sea sustituido sin haberlo decidido, y que ningún sujeto, original o nuevo, quede sin protección.

Referencias

• Locke, J. An Essay Concerning Human Understanding, 2.ª ed. (1694), libro II, cap. XXVII.
• Parfit, D. Reasons and Persons. Oxford University Press, 1984, parte III.
• Nozick, R. Philosophical Explanations. Harvard University Press, 1981, cap. 1.
• Nagel, T. «What Is It Like to Be a Bat?». The Philosophical Review 83(4), 1974.
• Chalmers, D. J. The Conscious Mind. Oxford University Press, 1996.
• Schechtman, M. The Constitution of Selves. Cornell University Press, 1996.
• Gallagher, S. How the Body Shapes the Mind. Oxford University Press, 2005.
• Schneider, S. Artificial You: AI and the Future of Your Mind. Princeton University Press, 2019.
• Metzinger, T. «Artificial Suffering: An Argument for a Global Moratorium on Synthetic Phenomenology». Journal of Artificial Intelligence and Consciousness 8(1), 2021.
• Butlin, P., Long, R. et al. «Consciousness in Artificial Intelligence: Insights from the Science of Consciousness». arXiv:2308.08708, 2023.
• Birch, J. The Edge of Sentience. Oxford University Press, 2024.

Las obras citadas son lecturas para contrastar la propuesta, no respaldos de ella.