La empresa de inteligencia artificial (IA) Anthropic ha comenzado a implementar una nueva función de seguridad para Claude Code que puede escanear la base de código del software de un usuario en busca de vulnerabilidades y sugerir parches.
La capacidad, llamada Seguridad del código Claudeestá actualmente disponible en una vista previa de investigación limitada para clientes Enterprise y Team.
«Escanea las bases de código en busca de vulnerabilidades de seguridad y sugiere parches de software específicos para revisión humana, lo que permite a los equipos encontrar y solucionar problemas de seguridad que los métodos tradicionales a menudo pasan por alto», dijo la compañía en un anuncio del viernes.
Anthropic dijo que la función tiene como objetivo aprovechar la IA como una herramienta para ayudar a encontrar y resolver vulnerabilidades para contrarrestar ataques en los que los actores de amenazas utilizan las mismas herramientas como armas para automatizar el descubrimiento de vulnerabilidades.
Dado que los agentes de inteligencia artificial son cada vez más capaces de detectar vulnerabilidades de seguridad que de otro modo habrían pasado desapercibidas para los humanos, el advenedizo tecnológico dijo que los adversarios podrían utilizar las mismas capacidades para descubrir debilidades explotables más rápidamente que antes. Claude Code Security, añadió, está diseñado para contrarrestar este tipo de ataque habilitado por IA dando a los defensores una ventaja y mejorando la base de seguridad.
Anthropic afirmó que Claude Code Security va más allá del análisis estático y el escaneo en busca de patrones conocidos al razonar el código base como un investigador de seguridad humana, además de comprender cómo interactúan varios componentes, rastrear flujos de datos a lo largo de la aplicación y señalar vulnerabilidades que las herramientas basadas en reglas pueden pasar por alto.
Luego, cada una de las vulnerabilidades identificadas se somete a lo que se llama un «proceso de verificación de múltiples etapas» donde los resultados se vuelven a analizar para filtrar los falsos positivos. A las vulnerabilidades también se les asigna una clasificación de gravedad para ayudar a los equipos a centrarse en las más importantes.
Los resultados finales se muestran al analista en el panel de Claude Code Security, donde los equipos pueden revisar el código y los parches sugeridos y aprobarlos. Anthropic también enfatizó que la toma de decisiones del sistema está impulsada por un enfoque humano en el circuito (HITL).
«Debido a que estos problemas a menudo implican matices que son difíciles de evaluar sólo a partir del código fuente, Claude también proporciona una calificación de confianza para cada hallazgo», dijo Anthropic. «Nada se aplica sin la aprobación humana: Claude Code Security identifica problemas y sugiere soluciones, pero los desarrolladores siempre toman la decisión».