Son principios que rigen el desarrollo, implementación y uso de sistemas basados en IA, complementariamente a los establecidos en el artículo Único del Título Preliminar de la Ley, los siguientes:
a) No discriminación: En las fases del desarrollo, implementación y uso de un sistema basado en IA, se implementan medidas para prevenir, mitigar y corregir la generación, el reforzamiento o la perpetuación de resultados discriminatorios o sesgados. En consecuencia, se busca evitar cualquier forma de discriminación conforme lo establece la Constitución Política del Perú, en las normas y tratados o acuerdos nacionales e internacionales, asegurando que los sistemas basados en IA se usen de manera segura, responsable, ética, justa, transparente, equitativa y respetuosa de los derechos humanos.
b) Privacidad de los datos personales: Es el respeto de manera irrestricta a la privacidad y la protección de datos personales en el desarrollo, implementación y uso de la IA, estableciendo medidas técnicas, organizativas y legales para preservar la seguridad de los datos personales, promover la transparencia de las condiciones del tratamiento de los datos personales y fortalecer la confianza digital, con el objetivo de generar un impacto positivo en la sociedad, promoviendo el bienestar, la equidad y el desarrollo integral de los ciudadanos, sin comprometer su dignidad ni sus libertades individuales.
c) Protección de derechos fundamentales: Se garantiza el respeto y protección de los derechos fundamentales en el desarrollo, implementación y uso de sistemas basados en IA, priorizando el bienestar humano conforme a la Constitución Política del Perú, las normas y tratados o acuerdos nacionales e internacionales.
d) Respeto del derecho de autor y derechos conexos: En las fases del desarrollo, implementación y uso de un sistema basado en IA, se deben respetar los derechos de autor, tanto morales como patrimoniales, y de los creadores respecto de sus obras originales de acuerdo con la normativa nacional y los tratados internacionales en la materia.
e) Seguridad, proporcionalidad y fiabilidad: Los sistemas basados en IA deben ser fiables y seguros durante todo su desarrollo implementación y uso para que, en condiciones de uso, según su finalidad prevista, funcionen adecuadamente y minimicen los riesgos del uso indebido u otras condiciones adversas vinculados a dichos sistemas. La aplicación de las salvaguardias y medidas de fiabilidad y seguridad debe ser proporcional al nivel de riesgo que el sistema basado en IA pueda generar.
f) Sensibilización y educación en IA: Se promueve la alfabetización digital y el desarrollo de habilidades relacionadas con el diseño, desarrollo, implementación y uso de sistemas basado en IA, en todas las etapas del desarrollo de una persona, con énfasis en ciencia, tecnología, ingeniería, matemáticas, estadística, programación, ciencia de datos, ética, derechos humanos, entre otros; así como la concienciación, comprensión y sensibilización sobre el uso y el impacto de los sistemas basados en IA, para que las personas puedan tomar decisiones informadas sobre su uso.
g) Sostenibilidad: En las fases del desarrollo, implementación y uso de un sistema basado en IA, se analizan y evalúan de manera integral sus repercusiones humanas, sociales, económicas, culturales y ambientales, asegurando que estén alineadas con los objetivos de las Políticas Nacionales y los Objetivos de Desarrollo Sostenible (ODS) de las Naciones Unidas. Asimismo, se promueve la adopción de prácticas sostenibles que minimicen el consumo de energía y recursos, fomentando soluciones tecnológicas responsables con el ambiente, así como sus componentes, y comprometidas con el desarrollo sostenible.
h) Supervisión Humana: Los sistemas basados en IA, deben estar sujetos a una supervisión humana, asegurando que sus decisiones sean éticas, justas y respetuosas de los derechos fundamentales, así como, garantizando la validación de la calidad de los datos utilizados para asegurar su precisión, integridad y representatividad. La intervención humana es necesaria para corregir, modificar o detener el funcionamiento de estos sistemas, con el fin de prevenir abusos, fortalecer la transparencia y rendición de cuentas y salvaguardar el bienestar colectivo, en cumplimiento de los principios jurídicos, éticos y morales vigentes.
i) Transparencia: Los sistemas basados en IA, deben ser claros, explicables y accesibles, garantizando que los procesos, algoritmos y decisiones sean comprensibles para usuarios, implementadores, y autoridades. Esto incluye facilitar información sobre su funcionamiento, los datos utilizados, los criterios de decisión y los posibles sesgos, promoviendo la rendición de cuentas y la confianza pública. La transparencia fortalece la equidad, la justicia y el respeto a los derechos humanos, alineando el uso de la IA con el interés colectivo y los valores democráticos.
j) Rendición de Cuentas: Los actores involucrados en el desarrollo, implementación y uso de sistemas basados en IA, asumen responsabilidad por sus acciones y decisiones, debiendo garantizar mediante mecanismos que permitan identificar, evaluar y responder por los impactos generados por la IA, ya sean positivos o negativos, en ámbitos como los derechos humanos, la equidad, confianza, la seguridad y el medio ambiente.
Asimismo, respecto a los siguientes principios establecidos en la Ley, se debe tener cuenta lo siguiente:
k) Desarrollo ético para una IA responsable: Se promueve un enfoque ético para definir que en el desarrollo, implementación y uso de los sistemas basado en IA se garantice el respeto de los derechos humanos, la dignidad y el bienestar colectivo, conforme a los principios jurídicos, éticos y morales.
l) Estándares de seguridad basados en riesgos: Busca una comprensión profunda de los riesgos específicos y sus implicancias en el desarrollo, implementación y uso de los sistemas basados en IA. Se identifican amenazas, vulnerabilidades y posibles consecuencias negativas, así como, la evaluación de la probabilidad de ocurrencia y el impacto asociado a cada riesgo.