Google DeepMind anunció el 14 de octubre un modelo de inteligencia artificial que detecta estafas en el teléfono del usuario sin sacar sus conversaciones del dispositivo. Lo desarrolló junto a GovTech, la agencia de tecnología del gobierno de Singapur, y lo presentó en la Singapore International Cyber Week.
El problema que busca atacar es grande en ese país. Según el anuncio, las estafas, como el fraude con inversiones, las ofertas de trabajo falsas o la suplantación de funcionarios, representan más de la mitad de los delitos denunciados en Singapur, y han causado pérdidas por más de 4.000 millones de dólares singapurenses desde 2019. La ingeniería social explica hasta el 80% de esas pérdidas.
Cómo funciona
El sistema se basa en Gemma, el modelo liviano de Google, ajustado con ejemplos de estafas locales: suplantación de instituciones públicas, bancos y figuras conocidas, además de esquemas que circulan en la región. Trabaja en dos etapas:
- Un clasificador muy liviano revisa los mensajes entrantes gastando poca batería.
- Si algo parece sospechoso, el modelo Gemma ajustado analiza un fragmento más amplio de la conversación para confirmar la amenaza o descartar una falsa alarma.
Cuando detecta patrones de manipulación, muestra una advertencia en tiempo real que recomienda no compartir información sensible ni enviar dinero.
Privacidad
Todo el análisis ocurre en el celular y no en servidores. El modelo solo accede a las conversaciones con el consentimiento del usuario y según los términos de cada aplicación, y ni el gobierno de Singapur ni Google pueden leer esos mensajes. “Combatir las estafas no debería significar sacrificar la privacidad”, resumió Mark Chen, director de Confianza y Seguridad de GovTech.
Próximos pasos
La incorporación en aplicaciones será gradual y no tiene fechas definidas. Google DeepMind señaló que explora implementaciones similares en otros países, aunque no mencionó cuáles.
Imagen: Google DeepMind.
