Vitalik propone salvaguardas de IA centradas en los usos y no en los usuarios
Su comentario sobre Kimi conecta la ingeniería defensiva con el acceso equitativo a modelos.
Vitalik Buterin expresó su apoyo a que Kimi omita deliberadamente capacidades cibernéticas ofensivas avanzadas de sus datos de entrenamiento. Su publicación del 25 de octubre sostiene que restringir usos es preferible a discriminar entre usuarios. Es su valoración, no una auditoría independiente del entrenamiento ni de las capacidades del modelo.
Considera valioso ganar tiempo para revisar código, reforzarlo y aplicar verificación formal ante ataques más potentes. También advierte que una mala gestión del riesgo de IA podría llevar a modelos muy restringidos, controles de identidad generalizados y acceso desigual según credenciales o nacionalidad. Son riesgos que describe, no políticas cuya adopción esté demostrada.
Para quienes construyen en LATAM, la pregunta de diseño es cómo limitar acciones peligrosas sin excluir a usuarios legítimos. Las reglas de acceso, los permisos de herramientas y las pruebas defensivas merecen análisis por separado. La etiqueta de modelo abierto no garantiza un comportamiento seguro, y las salvaguardas requieren evaluar tanto su eficacia como su efecto sobre el acceso.