La inteligencia artificial no regulada puede ser un peligro para empresas y sociedad en general
Diversos proveedores de soluciones de seguridad y operaciones de Tecnologías de la Información, han considerado que la inteligencia artificial ha tenido un fuerte impacto en estos momentos y en la vida corriente de las personas. Cuando OpenAI lanzó a ChatGPT, a finales de noviembre del año pasado, tuvo un registro de 1 millón de usuarios en solo 5 días. En tan solo 1 mes, rompieron la marca de los 100 millones de suscriptores.
Sin embargo, para algunos expertos, este entusiasmo sin control por productos y aplicaciones basados en IA, ha sido opacado por una preocupación creciente, acerca del impacto que está teniendo en la sociedad.
El manejo sin criterio de los resultados arrojados, algunos de los cuales son “alucinaciones” de la IA y son tan preocupantes como las preguntas que se hacen sobre sus cualidades disruptivas para los sistemas educativos. Además, ha crecido el peligro de las campañas de desinformación gratuitas y con total escalabilidad y el acceso al código malicioso.
Entre otras preocupaciones, crece el interés sobre el cumplimiento de los derechos de autor que todavía no están resueltos, según los expertos en este tema. Igualmente, consideran que está en juego el modelo de desarrollo más grande en la historia de la humanidad, que es la potencial creación de valor automatizada y casi ilimitada, saltos cuánticos en la ciencia y, por supuesto, el aumento de la prosperidad y el progreso de la humanidad.
Si necesitas protección de los sistemas informáticos de tu empresa, TIC Defense puede ofrecerte un conjunto de herramientas y soluciones acordes a las necesidades de la infraestructura informática de tu organización. La información es el activo más valioso en este siglo XXI y la ciberseguridad no es juego, por ello, te ayudamos a mantener tus datos e información totalmente asegurados.
En estos momentos, solo algunos especialistas en el mundo, están encargados de estudiar y desarrollar aspectos de ciberseguridad en las disciplinas que abordan esto en el entorno de inteligencia artificial, tales como:
Interpretabilidad, la cual se ocupa del desarrollo de una profunda comprensión de cómo pueden producirse los resultados de distintos modelos de IA. Con la ayuda de dicha comprensión, se puede predecir el comportamiento futuro de una inteligencia artificial y evitar resultados perjudiciales.
Luego, con la investigación de alineación, se equipan los modelos de IA actuales, que son débiles y futuros, que serán fuertes, con diversos valores centrales y fundamentales de la humanidad e integrarlos para sí mismos. Esta disciplina tiene una gran semejanza a las leyes fundamentales de la robótica de Isaac Asimov, las cuales han sido desarrolladas con el fin de controlar el avance de los robots, en un marco legal específico y bien definido cuyo fin es el de proteger a los humanos.
La primera ley es la de nunca dañar a un ser humano y salvaguardarlo de cualquier daño a toda costa. El segundo enunciado es el de obedecer siempre las órdenes de los humanos, a menos que una orden implique violar la primera regla. Por último, siempre deben proteger su propia existencia, a menos que esto viole las 2 leyes anteriores.
Si bien es un buen punto de partida para la regulación de las IA’s, muchas empresas están corriendo el peligro de ser devoradas por la automatización del trabajo cognitivo, las sociedades que no están alfabetizadas correctamente, pueden ser víctimas de desinformación, generada por la inteligencia artificial, entre otros riesgos que se corren por el uso no regulado de aplicaciones de IA.
