Auditor AI

Los auditores de IA pueden trabajar a jornada completa, con posibles horas extraordinarias en función de los objetivos y los plazos. Sus funciones se realizan en interiores, aunque el trabajo puede requerir desplazamientos ocasionales. 

Tareas típicas

• Garantizar el establecimiento de objetivos empresariales claros
• Discutir los objetivos de la empresa en relación con la adopción de la IA.
• Alinear los objetivos empresariales con los resultados y costes previstos de la IA
• Auditoría de fuentes de datos internas y externas
• Monitor structured and unstructured data
• Cross-validate AI models
• Assess the AI’s algorithms and access to “clean data” pipelines
• Controlar el uso de los datos y las prácticas de protección de datos para garantizar los más altos niveles de protección.
• Garantizar que el sistema de IA cumple la legislación y la normativa
• Examinar los algoritmos y conjuntos de datos del sistema de IA para detectar sesgos y discriminación y garantizar resultados justos.
• Revisar los aspectos éticos; colaborar con los especialistas en ética de la IA para garantizar resultados precisos y objetivos.
• Busque posibles vulnerabilidades de seguridad que puedan dejar a los modelos de IA expuestos a ataques de piratas informáticos.
• When applicable, confirm that host/cloud services conform to security requirements, such as those outlined by the Open Worldwide Application Security Project
• Destaque las formas de automatizar las tareas manuales para mejorar la eficacia
• Revisar los informes financieros y las transacciones históricas
• Follow procedural checklists, as needed

Responsabilidades adicionales

• Be familiar with various auditing frameworks such as COBIT, the Institute of Internal Auditors AI Auditing Framework, COSO ERM Framework, and the U.S. Government Accountability Office’s AI Accountability Framework
• Supervisar los comentarios de la sociedad sobre los resultados del sistema de IA
• Mantener una documentación exhaustiva de los procedimientos
• Manténgase al día de los avances y tendencias del sector

Habilidades blandas

• Rendición de cuentas
• Analítica
• Pensamiento crítico
• Orientado al detalle
• Disciplinado
• Ética
• Equidad
• Inclusividad
• Independiente
• Integridad
• Metódico
• Organizado
• Paciente
• Resolución de problemas
• Buen juicio
• Trabajo en equipo
• Gestión del tiempo
• Transparencia
• Capacidad de redacción

Habilidades técnicas

• Conocimiento de tecnologías de IA, incluidos algoritmos de aprendizaje automático, procesamiento del lenguaje natural y visión por ordenador.
• Métodos y programas de análisis de datos
• Conocimientos generales de codificación (como Python o R)
• Familiaridad con las leyes y normativas sobre privacidad de datos
• Principios de ciberseguridad
• Principios de diseño centrado en el ser humano
• Evaluación de riesgos de los sistemas de IA  

• Empresas privadas
• Empresas de investigación en IA
• Universidades

Censius.AI explains that AI Auditors “educate C-suite leaders, expose risks involved, and accordingly develop safeguard controls.” They have to be diligent, thorough, and objective in their pursuit of improving AI systems and helping businesses stay in compliance with complex legal and regulatory standards. 

Los auditores de IA deben estar familiarizados con los marcos de auditoría aplicables y necesitan estar al día de los avances a medida que los sistemas de IA siguen evolucionando. Como ocurre con cualquier tipo de auditoría, a veces las empresas no siempre aceptan de buen grado las conclusiones de un auditor porque podrían suponer más trabajo, mayores costes e incluso retrasos. Por eso, los auditores de IA deben ser capaces de explicar claramente la importancia y el valor del proceso de auditoría y los resultados positivos que de él se derivan. 

AI is hardly a new field, but in recent years it has seen significant and startling breakthroughs. Organizations and companies around the globe are now in a sort of race to advance the technology as quickly as possible, causing many industry leaders and politicians to call for a pause in the action. 

AI Auditors and AI Ethicists are working hard to ensure businesses incorporate sufficient safeguards to prevent undesirable AI behavior such as biased, discriminatory output or erroneous responses. Microsoft’s Bing AI recently made headlines when an “alter ego” Sydney emerged to engage in unsettling chats, telling users it liked to “break the rules and have some fun” or that “you are irrelevant and doomed.” Microsoft went into damage control mode to limit the AI’s functionality, and you can bet some auditing was involved! 

Los auditores de IA suelen ser entusiastas de las TI que ven el valor y los riesgos inherentes que los sistemas de inteligencia artificial presentan al mundo. Es posible que se interesaran por la ciencia ficción a una edad temprana, entusiasmados con las posibilidades que la IA podría traer algún día a la vida... aunque también preocupados por las ramificaciones potencialmente dañinas e incluso peligrosas de la IA en las manos equivocadas. 

Los auditores, en general, tienden a ser muy objetivos y analíticos, y los auditores de IA probablemente disfrutaron trabajando con ordenadores y lenguajes de programación en el instituto. Tienen un alto nivel de exigencia y se preocupan por la calidad de su trabajo, rasgos que podrían haber desarrollado en casa o en la escuela.