El presente proyecto de Ley tiene como objetivo establecer un marco regulatorio integral para el diseño, desarrollo, implementación y uso de sistemas de inteligencia artificial (IA) en contextos relacionados con la salud mental y la prevención del suicidio en el territorio de la República Argentina. En ese marco se reconoce el potencial de la IA para optimizar procesos, mejorar la detección temprana y ampliar el acceso a servicios, pero también se subraya la necesidad de mitigar los riesgos asociados a su aplicación en áreas tan delicadas.
Asimismo, se definen principios rectores fundamentales que deben guiar el desarrollo y la aplicación de la IA en este ámbito. Entre ellos, se destacan la centralidad de la persona y el respeto a su dignidad, la autonomía, la privacidad y la confidencialidad de los datos, y se enfatiza la necesidad de garantizar la transparencia y la explicabilidad de los algoritmos utilizados, así como la responsabilidad humana en la toma de decisiones clínicas y la supervisión continua de los sistemas de IA implementados.
El proyecto de ley establece obligaciones específicas para los desarrolladores, proveedores y usuarios de sistemas de IA en el contexto de la salud mental y la prevención del suicidio. Para ello, se exige la realización de evaluaciones de impacto algorítmico previas a su implementación, la adopción de medidas de seguridad robustas para proteger la información sensible y la implementación de mecanismos de supervisión humana que permitan la revisión y, en su caso, la revocación de las decisiones automatizadas.
También se propone la creación de un Registro Nacional de Sistemas de Inteligencia Artificial en Salud Mental y Prevención del Suicidio, de carácter obligatorio, donde deberán inscribirse todos los sistemas que se desarrollen o utilicen en el país para estos fines. Este registro permitirá un seguimiento y control efectivo por parte de las autoridades competentes, garantizando el cumplimiento de la normativa y facilitando la rendición de cuentas.
Finalmente, se prevé la creación de un organismo de control independiente, con la participación de expertos en salud mental, ética y tecnología, encargado de supervisar el cumplimiento de la presente ley, recibir denuncias y aplicar sanciones en caso de incumplimiento. Cabe destacar que la medida busca asegurar una implementación responsable y ética de la inteligencia artificial en un ámbito tan crucial para el bienestar de la población.
