Por: Jesús Rodríguez, Chief Executive Officer de Dynamic Devs
La inteligencia artificial está cambiando las reglas del desarrollo de software. Hoy es posible generar código en segundos, y muchas organizaciones compran licencias de asistentes con la promesa de que sus equipos avancen diez o veinte veces más rápido. Pero detrás del entusiasmo hay una pregunta que pocas veces tiene respuesta clara: ¿quién se hace responsable cuando ese código falla?
En Dynamic Devs trabajamos con IA generativa desde 2023, y el primer aprendizaje fue incómodo. Al habilitar asistentes de código, los resultados dependían casi por completo de la experiencia de cada desarrollador: algunos lograban avances notables y otros entregaban soluciones difíciles de sostener. Además, los plazos de entrega no mejoraban. Esa inconsistencia es inaceptable cuando se construye software para otros.
El problema comienza cuando confundimos velocidad con calidad. La IA está diseñada para ser verosímil, no necesariamente veraz: un código puede verse correcto, superar pruebas básicas y funcionar durante meses mientras esconde vulnerabilidades o decisiones que comprometen la estabilidad de una plataforma. Ya vimos esta película con el RPA, el low code o el BPM: soluciones brillantes en la demo que se resentían al integrarse y escalar.
En la banca, los seguros o las AFP, las consecuencias son mayores. Una falla en un sistema que procesa transacciones o gestiona datos sensibles se traduce en pérdidas económicas, interrupciones operacionales, observaciones del regulador y daños reputacionales.
La responsabilidad no puede delegarse a un algoritmo. La IA puede proponer una arquitectura o generar funcionalidades, pero no reemplaza el criterio profesional para evaluar riesgos y decidir. Por eso no aspiramos a ser una empresa AI First, sino Engineering First. Nuestro negocio se sostiene en personas talentosas y un proceso estructurado que da predictibilidad. La IA potencia esa combinación: un buen proceso de ingeniería apalancado en IA es un gran multiplicador; uno malo, una bomba de tiempo.
Esto exige reforzar las bases. Todo parte de buenos requerimientos, porque si lo que entra es ambiguo, lo que sale también lo será. Luego vienen controles que hagan predecible a un modelo que no es determinístico y evidencias para que cada entrega supere auditorías con igual o más rigor que antes. Los roles también cambian: el desarrollador pasa a ser validador, y el arquitecto o el especialista de calidad dejan de ser policías del código para definir las barreras de seguridad. Y todo debe convivir con los procesos y exigencias de cumplimiento de cada organización, no reemplazarlos.
Las empresas que incorporen IA solo para reducir tiempos y costos podrían pagar un precio mucho mayor. La ventaja no estará en producir más código, sino en hacerlo bien para no rehacerlo, con soluciones que operen con seguridad y se mantengan en el tiempo.
Cuando un sistema crítico falla, los clientes no le pedirán explicaciones al algoritmo. Se las pedirán a la empresa que decidió utilizarlo. Esto vale también para los equipos de desarrollo internos. Entregarles asistentes de código sin revisar el proceso no traslada la responsabilidad a la herramienta ni a quien vendió la licencia: la deja en la propia organización.
La IA puede escribir el código. Pero la confianza, la seguridad y la responsabilidad siguen siendo humanas.
-
0
-
0
-
0
-
0
-
0
-
0
