Un área que requiere especial precaución es el desarrollo de modelos de IA/ML. Estamos viendo una amenaza cada vez mayor de código malicioso en este punto crítico, lo que permite a los actores de amenazas encontrar nuevas formas de irrumpir en empresas y cadenas de suministro de software y robar datos.
Si bien AI/ML ha sido una parte integral de muchas entregas de software durante muchos años, el auge de los modelos de lenguaje grande (LLM) ha hecho que sea mucho más fácil integrar AI/ML en muchas aplicaciones. Se espera que los desarrolladores implementen modelos de IA/ML junto con actualizaciones de software y nuevas implementaciones, pero a menudo no tienen los recursos para incorporar medidas de seguridad en sus procesos desde el principio. Se puede observar que los desarrolladores recurren a ofertas de código abierto para optimizar sus flujos de trabajo, pero a menudo no verifican el código que utilizan en busca de vulnerabilidades. Una vez que el código malicioso se implementa en modelos de IA/ML, los ciberdelincuentes pueden utilizarlo como arma para moverse dentro de las redes de la organización.
Seguridad de la cadena de suministro de software
La importancia de la cadena de suministro de software seguirá aumentando y, al mismo tiempo, la situación de amenaza también aumentará en complejidad e intensidad. Las empresas deben ampliar sus estructuras de seguridad en consecuencia y adaptarlas a los nuevos desafíos. El apoyo de un marco legal que permita un entorno seguro para el desarrollo de software juega un papel crucial. En Estados Unidos, por ejemplo, la hoja de ruta de seguridad del software de código abierto de CISA ha colocado al mercado en una posición sólida para abordar con confianza las amenazas de seguridad emergentes. Los expertos en seguridad de la industria creen firmemente que el código abierto seguirá representando una gran amenaza a largo plazo.
La lista de materiales de software representa una forma de combatir estas amenazas a la seguridad en la cadena de suministro de software. Afortunadamente, los SBOM son cada vez más reconocidos porque permiten a las empresas responder mejor a los ataques a la cadena de suministro. Permiten tiempos de respuesta más rápidos cuando se descubre una vulnerabilidad. Sin embargo, es probable que veamos un aumento en los ataques a la cadena de suministro de software este año a medida que los actores de amenazas tengan más herramientas a su disposición para llevar a cabo y evolucionar sus ataques. Al mismo tiempo, sin embargo, se puede suponer que aumentará constantemente la voluntad de fortalecer los mecanismos de defensa en las organizaciones.
Más en JFrog.com
Acerca de JFrog
Nos propusimos con Liquid Software en 2008 transformar la forma en que las empresas administran y publican actualizaciones de software. El mundo espera que el software se actualice de forma continua, segura, discreta y sin intervención del usuario. Esta experiencia hiperconectada solo puede habilitarse mediante la automatización con una plataforma DevOps de extremo a extremo y un enfoque centrado en binario.
Artículos relacionados con el tema