La fusión de IA y Web3 genera nuevos desafíos de seguridad, DeFAI se convierte en el centro de atención
Recientemente, la Semana de Blockchain de Estambul se centró en la tendencia de fusión entre IA y Web3, convirtiéndose en una plataforma importante para la discusión sobre la seguridad de Web3 este año. En dos mesas redondas, varios expertos de la industria llevaron a cabo un profundo debate sobre el estado actual de la aplicación de la tecnología IA en DeFi y los desafíos de seguridad.
En discusión, "DeFAI" (finanzas de inteligencia artificial descentralizada) se ha convertido en una palabra clave. Los expertos señalan que, con el rápido desarrollo de los modelos de lenguaje grandes y los agentes de IA, está surgiendo un nuevo paradigma financiero: DeFAI. Sin embargo, esta transformación también ha traído nuevas superficies de ataque y riesgos de seguridad.
Un alto ejecutivo de una empresa de seguridad comentó: "DeFAI tiene un amplio futuro, pero también nos obliga a reconsiderar los mecanismos de confianza en los sistemas descentralizados. A diferencia de los contratos inteligentes basados en lógica fija, el proceso de toma de decisiones de los agentes de IA se ve influenciado por el contexto, el tiempo e incluso las interacciones históricas. Esta imprevisibilidad no solo agrava los riesgos, sino que también crea oportunidades para los atacantes."
"Agentes de IA" son esencialmente entidades inteligentes que pueden tomar decisiones y ejecutar acciones de manera autónoma basándose en lógica de IA, a menudo autorizadas para operar por usuarios, protocolos o DAOs. El representante más típico es el robot de trading de IA. Actualmente, la mayoría de los agentes de IA operan sobre una arquitectura Web2, dependiendo de servidores y API centralizados, lo que los hace vulnerables a ataques de inyección, manipulación de modelos o alteraciones de datos. Una vez secuestrados, no solo pueden causar pérdidas de fondos, sino que también pueden afectar la estabilidad de todo el protocolo.
También se mencionó un escenario típico de ataque en el foro: cuando un agente de trading de IA que opera un usuario de DeFi está monitoreando mensajes en redes sociales como señales de trading, un atacante puede publicar alertas falsas, como "un protocolo está siendo atacado", lo que podría inducir al agente a iniciar inmediatamente una liquidación de emergencia. Esta operación no solo podría causar pérdidas en los activos del usuario, sino que también podría provocar volatilidad en el mercado, que luego el atacante podría aprovechar mediante el trading anticipado.
Con respecto a los riesgos mencionados, los expertos coinciden en que la seguridad de los agentes de IA no debe ser asumida por una sola parte, sino que es una responsabilidad compartida entre los usuarios, los desarrolladores y las instituciones de seguridad de terceros.
Primero, los usuarios deben tener claro el alcance de los permisos que posee el agente, otorgar permisos con precaución y prestar atención a la revisión de las operaciones de alto riesgo del agente de IA. En segundo lugar, los desarrolladores deben implementar medidas de defensa desde la fase de diseño, como: refuerzo de prompts, aislamiento en sandbox, limitación de tasas y lógica de retroceso, entre otros mecanismos. Por último, las empresas de seguridad de terceros deben proporcionar revisiones independientes del comportamiento del modelo del agente de IA, la infraestructura y la forma de integración en la cadena, y colaborar con desarrolladores y usuarios para identificar riesgos y proponer medidas de mitigación.
Al final de la discusión, un experto en seguridad advirtió: "Si seguimos tratando a los agentes de IA como una 'caja negra', los accidentes de seguridad en el mundo real son solo cuestión de tiempo." Para los desarrolladores que están explorando la dirección de DeFAI, su consejo fue: "Al igual que los contratos inteligentes, la lógica de comportamiento de los agentes de IA también se implementa mediante código. Dado que es código, existe la posibilidad de ser atacado, por lo que se necesita realizar auditorías de seguridad profesionales y pruebas de penetración."
Como uno de los eventos de blockchain más influyentes de Europa, la Semana de Blockchain de Estambul ha atraído a más de 15,000 participantes de desarrolladores, proyectos, inversores y reguladores de todo el mundo. Este año, con el lanzamiento oficial por parte de la Comisión del Mercado de Capitales de Turquía de la emisión de licencias para proyectos de blockchain, la posición de este evento en la industria se ha visto aún más reforzada.
Ver originales
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
19 me gusta
Recompensa
19
6
Compartir
Comentar
0/400
PhantomMiner
· hace17h
Preparar la especulación, vaciar la billetera y salir corriendo.
Ver originalesResponder0
DefiEngineerJack
· hace17h
*sigh* otro día, otro fallo de seguridad... la verificación formal en LLMs no es trivial, ser
Ver originalesResponder0
RugPullProphet
· hace17h
Ya se dijo que a finales de 2019 se iría, ahora hay una nueva vulnerabilidad.
Ver originalesResponder0
down_only_larry
· hace17h
Otra nueva concepción de Finanzas descentralizadas, ¡vaya!
Ver originalesResponder0
CoffeeNFTrader
· hace18h
Deja de hablar, aún es seguro. Quien hable, quien G.
Ver originalesResponder0
NightAirdropper
· hace18h
¿Seguridad? Los contratos inteligentes están explotando todo el tiempo.
El auge de DeFAI: La fusión de la IA y Web3 plantea nuevos desafíos de seguridad
La fusión de IA y Web3 genera nuevos desafíos de seguridad, DeFAI se convierte en el centro de atención
Recientemente, la Semana de Blockchain de Estambul se centró en la tendencia de fusión entre IA y Web3, convirtiéndose en una plataforma importante para la discusión sobre la seguridad de Web3 este año. En dos mesas redondas, varios expertos de la industria llevaron a cabo un profundo debate sobre el estado actual de la aplicación de la tecnología IA en DeFi y los desafíos de seguridad.
En discusión, "DeFAI" (finanzas de inteligencia artificial descentralizada) se ha convertido en una palabra clave. Los expertos señalan que, con el rápido desarrollo de los modelos de lenguaje grandes y los agentes de IA, está surgiendo un nuevo paradigma financiero: DeFAI. Sin embargo, esta transformación también ha traído nuevas superficies de ataque y riesgos de seguridad.
Un alto ejecutivo de una empresa de seguridad comentó: "DeFAI tiene un amplio futuro, pero también nos obliga a reconsiderar los mecanismos de confianza en los sistemas descentralizados. A diferencia de los contratos inteligentes basados en lógica fija, el proceso de toma de decisiones de los agentes de IA se ve influenciado por el contexto, el tiempo e incluso las interacciones históricas. Esta imprevisibilidad no solo agrava los riesgos, sino que también crea oportunidades para los atacantes."
"Agentes de IA" son esencialmente entidades inteligentes que pueden tomar decisiones y ejecutar acciones de manera autónoma basándose en lógica de IA, a menudo autorizadas para operar por usuarios, protocolos o DAOs. El representante más típico es el robot de trading de IA. Actualmente, la mayoría de los agentes de IA operan sobre una arquitectura Web2, dependiendo de servidores y API centralizados, lo que los hace vulnerables a ataques de inyección, manipulación de modelos o alteraciones de datos. Una vez secuestrados, no solo pueden causar pérdidas de fondos, sino que también pueden afectar la estabilidad de todo el protocolo.
También se mencionó un escenario típico de ataque en el foro: cuando un agente de trading de IA que opera un usuario de DeFi está monitoreando mensajes en redes sociales como señales de trading, un atacante puede publicar alertas falsas, como "un protocolo está siendo atacado", lo que podría inducir al agente a iniciar inmediatamente una liquidación de emergencia. Esta operación no solo podría causar pérdidas en los activos del usuario, sino que también podría provocar volatilidad en el mercado, que luego el atacante podría aprovechar mediante el trading anticipado.
Con respecto a los riesgos mencionados, los expertos coinciden en que la seguridad de los agentes de IA no debe ser asumida por una sola parte, sino que es una responsabilidad compartida entre los usuarios, los desarrolladores y las instituciones de seguridad de terceros.
Primero, los usuarios deben tener claro el alcance de los permisos que posee el agente, otorgar permisos con precaución y prestar atención a la revisión de las operaciones de alto riesgo del agente de IA. En segundo lugar, los desarrolladores deben implementar medidas de defensa desde la fase de diseño, como: refuerzo de prompts, aislamiento en sandbox, limitación de tasas y lógica de retroceso, entre otros mecanismos. Por último, las empresas de seguridad de terceros deben proporcionar revisiones independientes del comportamiento del modelo del agente de IA, la infraestructura y la forma de integración en la cadena, y colaborar con desarrolladores y usuarios para identificar riesgos y proponer medidas de mitigación.
Al final de la discusión, un experto en seguridad advirtió: "Si seguimos tratando a los agentes de IA como una 'caja negra', los accidentes de seguridad en el mundo real son solo cuestión de tiempo." Para los desarrolladores que están explorando la dirección de DeFAI, su consejo fue: "Al igual que los contratos inteligentes, la lógica de comportamiento de los agentes de IA también se implementa mediante código. Dado que es código, existe la posibilidad de ser atacado, por lo que se necesita realizar auditorías de seguridad profesionales y pruebas de penetración."
Como uno de los eventos de blockchain más influyentes de Europa, la Semana de Blockchain de Estambul ha atraído a más de 15,000 participantes de desarrolladores, proyectos, inversores y reguladores de todo el mundo. Este año, con el lanzamiento oficial por parte de la Comisión del Mercado de Capitales de Turquía de la emisión de licencias para proyectos de blockchain, la posición de este evento en la industria se ha visto aún más reforzada.