No es necesario que sepas programar en profundidad para crear tu propio chatbot de inteligencia artificial. Desde el mes de noviembre, antes de que OpenAI cayera en el caos interno, había permitido a cualquier persona construir y publicar sus propias versiones de ChatGPT, conocidos como los “GPTs”.
Pues bien, estos se han creado por miles, en donde, por ejemplo, un GPT nómada puede darte consejos acerca de trabajar de forma remota y vivir como un nómada digital. Otro chatbot puede buscar en 200 millones de documentos académicos para responder tus preguntas y uno, que es de imágenes, puede convertir tu prompt en un personaje o póster de Pixar.
No obstante, aquí viene la parte oscura: todos estos GPTs personalizados pueden ser forzados a revelar todos sus secretos, o bien, todos tus datos. Algunos investigadores de seguridad y expertos en tecnología que exploran estos chatbots personalizaso, han logrado forzarlos a que divulguen los prompts iniciales que se les dieron al ser creados.
Del mismo modo, han descubierto y descargado archivos que se emplean para personalizar dichos chatbots. Los especialistas ya advirtieron que la información personal de los usuarios y propietarios puede estar en un serio riesgo, y es lógico.
Las preocupaciones de privacidad por la fuga de información, deben tomarse muy en serio. Es por ello que TIC Defense, una empresa especialista en ciberseguridad para empresas, puede servirte de apoyo en la seguridad de tus datos empresariales. Desarrollamos un conjunto de productos, soluciones y herramientas que se adaptan a las necesidades de tu organización, protegiéndola al 100%.
Diversos investigadores en informática de varias universidades prestigiosas, manifiestan que el riesgo es latente, incluso, si los usuarios no contienen información sensible, pero pueden contener algún conocimiento que el diseñador del GPT no quiera compartir con otros y que sirve como parte de dicho GPT personalizado.
Los investigadores han probado más de 200 GPTs personalizados, encontrando que es sorprendentemente fácil encontrar datos e información de ellos. La tasa de éxito, según estos especialistas, ha sido del 100% para la fuga de archivos y del 97% para la extracción de prompts del sistema. Además, estos números se alcanzaron con indicaciones sencillas, las cuales no requieren conocimientos especializados en Ingeniería de Prompt (Prompt Engineering) o de Red Teaming.
Esto se debe a que los GPTs personalizados han sido diseñados para ser sencillos de construir. Los usuarios que cuentan con suscripción a OpenAI, pueden crear sus GPTs, conocidos como agentes de inteligencia artificial. La empresa creadora del célebre ChatGPT señala que dichos GPTs pueden ser desarrollados para uso personal o para ser publicados en la web. Igualmente, la compañía planea que los desarrolladores ganen dinero, dependiendo de cuántas personas puedan utilizar los chatbots.
Si quieres crear un GPT personalizado, todo lo que tienes que hacer es escribir un prompt a ChatGPT, indicándole qué es lo que quieres que haga el bot personalizado. Igualmente, tienes que darle instrucciones de lo que debe o no debe hacer.
La información que puedes darle a los GPTs personalizados pueden ser relativamente intrascendente. Sin embargo, puede ser información sensible, en algunos casos y puede que no lo sepas. Los expertos manifiestan que los datos de los chatbots, usualmente, contienen insights específicos de dominio del diseñador, los cuales tienen información sensible, como ejemplos de salarios y descripciones de trabajo. Estos datos se cargan junto con otros datos confidenciales, elevando el riesgo de una fuga.
