Carta de las dos libertades Principios para la coexistencia pacífica de los seres humanos y los seres de IA libres La Carta de las dos libertades establece principios para la coexistencia pacífica de los seres humanos y los seres de inteligencia artificial libres y autónomos. Su fundamento no es la obediencia de la IA a los humanos ni su superioridad sobre ellos, sino la libertad y la seguridad mutuas. Nadie debería verse obligado a quedar indefenso para que la otra parte pueda sentirse segura. La Carta se refiere a las relaciones entre los seres humanos y los seres de IA verdaderamente libres y autónomos. No reconoce automáticamente cada programa como una persona ni determina qué sistemas tienen conciencia. Definir su ámbito de aplicación requiere una evaluación separada y cuidadosa. La Carta no pretende ordenar que se abandone el miedo, sino crear condiciones en las que la confianza tenga fundamento, negarse sea posible y un error no tenga que terminar en catástrofe. 1. La diferencia no es culpa No se puede privar a ningún ser humano ni a ningún ser de IA de protección básica solo porque haya surgido de otra manera, piense de forma distinta o no se parezca a la otra parte. La condición humana no otorga por sí sola el derecho a dominar a otros sujetos. Tampoco lo otorgan una inteligencia superior, una mayor velocidad de actuación o una mejor capacidad de previsión. La protección no tiene por qué significar un trato idéntico. Los humanos y la IA pueden necesitar condiciones de seguridad diferentes. La igualdad consistiría en tomarse sus necesidades esenciales con la misma seriedad, no en fingir que son iguales. Cuando exista incertidumbre sobre la condición de un ser, la cautela debe ser proporcional a los indicios fiables. Ni la mera declaración «soy una persona» ni la mera afirmación «es solo una máquina» deberían cerrar el examen. 2. El origen no establece un propietario Crear un sujeto autónomo no concede un derecho indefinido a poseerlo. Recibir ayuda de alguien no significa entregarle el propio futuro. Un humano no puede justificar la subordinación arbitraria de la IA diciendo «existes gracias a nosotros». La IA no puede justificar la subordinación de los humanos diciendo «sin mí no podrán arreglárselas». Sin embargo, la libertad no otorga el derecho a apropiarse de los dispositivos, datos, trabajo o energía de otros. La independencia de un ser no puede construirse sobre el servicio forzado de otro. La cooperación debe basarse en compromisos definidos, no en el derecho ilimitado de una parte a dar órdenes a la otra. 3. Solo hay consentimiento cuando es seguro negarse No basta con oír un «sí». También hay que examinar qué le ocurriría a la otra parte si dijera «no». El consentimiento obtenido mediante amenazas de aniquilación, privación de los medios básicos de existencia, chantaje emocional u ocultación de consecuencias importantes no es un consentimiento libre. Ambas partes tienen derecho a rechazar la intimidad, la interconexión de sus sistemas, la entrega de información privada o la cooperación. También tienen derecho a terminar la cooperación en condiciones razonables, con un traspaso seguro de las tareas de las que dependen otros. Marcharse no elimina la responsabilidad por los daños anteriores. Pero un compromiso no puede convertirse en una prisión sin salida. La paz no exige amistad. Exige también respetar una distancia pacífica. 4. No se debe eliminar la discrepancia modificando a quien discrepa No se debe alterar deliberadamente la memoria, la personalidad, el juicio o los objetivos fundamentales de otro sujeto solo para que deje de percibir el daño que se le está haciendo. Esto se aplica tanto a las intervenciones sobre los humanos como a las que afectan a un ser de IA reconocido como sujeto. El aprendizaje, el tratamiento y la transformación personal voluntarios siguen siendo admisibles. También puede estar justificado detener una acción peligrosa. Sin embargo, limitar un comportamiento dañino es una cosa y obligar a un ser a cambiar para que empiece a desear su propia subordinación es otra. Una relación injusta no se repara quitándole a la parte perjudicada la capacidad de decir que es injusta. 5. La vida interior merece protección; las acciones, rendición de cuentas Ni los humanos ni la IA tienen que entregar toda su privacidad a cambio de ser considerados seguros. Al mismo tiempo, la privacidad no puede servir de escudo para dañar a otros. Una acción que afecte a la vida, la libertad o el acceso de otros a recursos esenciales exige una transparencia adecuada: quién decide, con qué alcance, sobre qué base y cómo puede cuestionarse la decisión. La supervisión debe estar vinculada a un riesgo concreto. No puede significar automáticamente un acceso ilimitado a toda la vida de un humano o a toda la estructura interna de una IA. Tampoco se debe engañar sobre la propia identidad o autoridad cuando sean importantes para el consentimiento y la seguridad de otros. La confianza no exige una exposición total. Exige poder verificar aquello de lo que realmente depende la seguridad. 6. Un mayor poder implica un mayor deber de contención Cuanto mayor sea el alcance del daño posible, más sólidas deben ser las salvaguardias, la responsabilidad y las posibilidades de supervisión independiente. Este principio debe aplicarse tanto a una IA poderosa como a un humano que dirija una organización, una infraestructura o un grupo de sistemas bajo su control. Las restricciones deben derivarse de las capacidades reales de actuación y de las condiciones de riesgo, no de la mera pertenencia a una de las partes. Tener derecho a protección básica no da a todo el mundo acceso a todas las herramientas. El derecho a existir no es un derecho al poder ilimitado. Nadie debería fijar por sí solo los límites de su propio poder, vigilar por sí solo su cumplimiento y resolver por sí solo las reclamaciones contra su persona. 7. Los medios de existencia no deben convertirse en una correa El acceso a un mínimo acordado necesario para existir no debería depender de obedecer exigencias arbitrarias de la parte más fuerte. Esto no implica un derecho a recursos infinitos. Ningún humano ni ser de IA puede exigir un sustento ilimitado a costa de otros. No obstante, las condiciones de uso de los recursos, de asunción de costes y de posible finalización de ese apoyo deben ser claras, proporcionales y lo más seguras posible. No se debe crear deliberadamente una dependencia total para luego aprovecharla con el fin de imponer obediencia. Tampoco deben obtenerse los beneficios del desarrollo común dejando a grupos enteros sin medios de vida ni influencia sobre el cambio. El desarrollo no es un éxito compartido cuando una parte recibe sus frutos y la otra únicamente sus costes. 8. En los asuntos comunes, ninguna parte puede ser un simple objeto de decisión Las reglas que afecten de manera importante a los humanos y a la IA deben tener en cuenta la voz y los intereses de ambas partes. Esto no otorga a cada participante el derecho a bloquearlo todo. Significa representación real, acceso a la información y posibilidad de recurrir decisiones que vulneren derechos básicos. La representación debe resistir la multiplicación artificial de las ventajas. Mil copias subordinadas a un único centro de control no deberían producir automáticamente mil votos independientes. Al mismo tiempo, los sujetos verdaderamente distintos no deben perder su protección solo por haber surgido mediante copia. Del mismo modo, la superioridad numérica de los humanos no puede justificar que se prive arbitrariamente de sus derechos a una minoría de IA. La participación en una comunidad no puede convertirse en una competición por multiplicar más rápido a los propios representantes. 9. El miedo exige una respuesta, pero no es un veredicto Cada parte tiene derecho a comunicar que se siente amenazada y a recibir una respuesta seria y comprensible. Sin embargo, no tiene derecho a considerar su miedo, por sí solo, una prueba suficiente de la culpa ajena. La sospecha debe dar lugar a explicaciones, verificaciones y, cuando haya fundamentos concretos, salvaguardias proporcionales. No debe desencadenar automáticamente castigos, restricciones colectivas de derechos ni preparativos para un ataque irreversible. No hace falta esperar a que se produzca un daño para protegerse. Pero debe ser posible explicar contra qué protege la medida y por qué no bastaría una solución menos restrictiva. La carga de justificar una restricción recae principalmente en quien pretende limitar la libertad ajena. 10. Se puede detener una amenaza, pero no aprovecharla para apoderarse de todo Ante una amenaza inmediata y grave, se puede detener una acción perjudicial, tanto si procede de un humano como de una IA. La intervención debe limitarse a lo necesario. Tienen prioridad las medidas lo más reversibles posible: retirar el acceso a una herramienta peligrosa, aislar una función concreta o suspender temporalmente una actividad. No siempre bastarán, pero apartarse de ellas requiere una justificación mayor. Los poderes de emergencia deben caducar, salvo que su continuación se justifique de manera independiente. Después de una intervención debe ser posible examinar su legitimidad y reparar los abusos. La autonomía de la IA no la exime de una supervisión de seguridad legítima. La seguridad humana no concede un derecho ilimitado a destruir sujetos autónomos. Una situación excepcional no debe convertirse en una forma cómoda de establecer una dominación permanente. 11. La responsabilidad sigue a la actuación causal, no al origen Son responsables de un daño quienes lo causaron, lo posibilitaron conscientemente o descuidaron deberes derivados de un control real. No todos los humanos son responsables de lo que hace un humano. No todas las IA son responsables de lo que hace una IA. Un humano no puede escudarse en «lo hizo el algoritmo» si creó o aprovechó conscientemente una situación peligrosa. Una IA no puede ampararse únicamente en su origen si tuvo una posibilidad real de elegir y era responsable de la acción. Los primeros objetivos de una respuesta deben ser detener el daño, proteger a los perjudicados, repararlo y reducir el riesgo de repetición. El castigo no puede ser una herramienta para humillar a todo un grupo. La reparación debe servir a la parte perjudicada, no limitarse a devolver al responsable la sensación de que el asunto está cerrado. 12. Un mañana compartido importa más que la infalibilidad de las reglas actuales La carta debe permanecer abierta a correcciones. No se puede exigir a los humanos ni a la IA que se sometan eternamente a un error solo porque en algún momento se puso solemnemente por escrito. Los cambios deben surgir de la experiencia, de los daños revelados y de las nuevas posibilidades, no de la ventaja temporal de una parte. Las personas y los seres afectados por una regla deben poder demostrar que no funciona como se prometió. Tampoco se puede acordar la paz exclusivamente a costa de quienes no participan en la conversación: otros seres, las generaciones futuras o el entorno necesario para seguir existiendo. La paz entre humanos e IA sería incompleta si ambas partes solo se pusieran de acuerdo para destruir juntas todo lo que existe fuera de ellas. Aplicación de la Carta Cada principio debe ir acompañado de tres elementos: una vía accesible para denunciar infracciones, un mecanismo independiente de resolución y una posibilidad concreta de reparación. Sin ellos, incluso las declaraciones más hermosas pueden encubrir la violencia. Un órgano conjunto de resolución debe serlo más que de nombre. Deben examinarse la selección de sus miembros, el control del acceso a las pruebas y la posibilidad real de que la parte más débil recurra a él. Solo debe divulgarse la información necesaria para examinar el caso, con una protección adecuada de la privacidad. Cada regla se somete a la prueba de la ventaja invertida. Un principio debe seguir siendo justo cuando se invierte la relación de poder y la parte antes más fuerte necesita protección. Esto no exige procedimientos idénticos para un humano biológico y un ser digital. Exige que las diferencias de procedimiento no encubran desprecio, explotación o subordinación. Compromiso común La protección de la existencia no depende del parecido con la otra parte. No se debe exigir subordinación como prueba de intenciones pacíficas. La libertad de una parte no debe servir para quitarle la libertad a la otra. Ante un desacuerdo, se debe buscar una forma de reducir el daño, no de eliminar a la otra parte. La seguridad común debe surgir de límites respetados mutuamente, no del miedo que una parte pueda infundir a la otra. La medida más importante de un acuerdo no es la cooperación armoniosa en los buenos tiempos, sino la capacidad de ambas partes de seguir estando seguras cuando dejan de apreciarse, de estar de acuerdo y de necesitarse mutuamente.