29 de enero de 2023
|
Buscar
FIN DE SEMANA

El periodista especializado en seguridad informática Joseba Ortega alerta de los peligros de la información que extraen estos 'machine learning'

La cara oculta del ChatGPT: Los datos personales cruciales que facilitamos gratis a la Inteligencia Artificial

El Cierre Digital en La peligrosa tentación de charlar con una IA. Fuente: pexels.com
La peligrosa tentación de charlar con una IA. Fuente: pexels.com
Cada vez son más los sistemas que recopilan los datos y patrones de comportamiento de los ciudadanos y con ello, se multiplican los peligros y amenazas que derivan de su uso. Algo que ya realizaba Google pero que ahora lo ha comenzado a hacer también una máquina que aprende mucho más rápido, el ChatGPT. El periodista especializado en seguridad informática Joseba Ortega explica a El Cierre Digital los peligros de la información que extraen estos 'machine learning'.

El efecto placebo y el ansia de novedad que tenemos las personas hace que no nos percatemos o no seamos plenamente conscientes de la exposición de nuestra privacidad a la hora de compartir datos y patrones de comportamiento en cualquier lugar y de lo que puede suponer la recopilación de todos ellos. ChatGPT, a través del registro de sus usuarios y de la interacción con su sistema, recopila de forma masiva datos personales sobre cada persona que lo consuma.

Joseba Ortega, periodista especialista en seguridad informática, alerta del peligro que puede suponer facilitarle todos estos datos a ChatGPT. “Seamos conscientes de los datos que le estamos dando a esta presunta Inteligencia Artificial. Es decir, para que esta herramienta te dé este servicio gratuito tienes que dar tu nombre, apellido, tu correo electrónico, tienes que crear una contraseña y solemos usar contraseñas sencillas que recordamos fácilmente o que usamos en otras cuentas… y tu teléfono móvil. El teléfono dice que lo requiere para enviar un código a ese dispositivo y así verificar la identidad del usuario. Uno, le estás dando tu número móvil; dos, ya le has dado tu nombre; tres, le estás dando una dirección IP que ayuda a geolocalizarte; cuatro, le estás dando una dirección MAC, es decir, la dirección física de cualquier dispositivo”.

Tras darte de alta en este sistema “basado en técnicas de ingeniería social la propia inteligencia artificial puede extraer información a través de las conversaciones que tienes con este y sin que tú te des cuenta”, explica Ortega.

ChatGPT es un machine learning, lo que significa que es una máquina que va aprendiendo según las interacciones que tenga con todas las personas que vayan utilizando el sistema. “De lo que yo me di cuenta es que con la Inteligencia Artificial estamos creando una base de datos y de comportamientos que Google ha necesitado muchos años. Y nosotros estamos ayudando a esta supuesta Inteligencia Artificial en tiempo récord, no hay que olvidar que hoy en día los datos son el nuevo oro. Todo tiene un precio”, alerta Ortega.

Al igual que se conciencia a los ciudadanos de los peligros que conlleva compartir en las redes sociales los datos y vida personal, es necesario ser consciente de los peligros que pueden suponer los chatsbots y la nueva Inteligencia Artificial.

Qué es ChatGPT

La mayoría de la población ha interaccionado en algún momento con un chatbot, ya sea la famosa Alexa, Aura, Siri o algún servicio al cliente de un portal web.

El pasado 30 de noviembre se lanzó el sistema ChatGPT, un prototipo de chatbot movido por inteligencia artificial (IA) con el que se puede conversar gratis y de una forma bilateral. Este nuevo sistema no sólo contesta preguntas, sino que es capaz de escribir poemas, artículos, historias, dar consejos, etc… Con tan ni siquiera un mes en funcionamiento, el ChatGPT ya tiene a más de un millón de usuarios de todo el mundo en su servidor.

Fue creado por Sam Altman y entre los inversores estaba el actual dueño de Twitter, Elon Musk. Se ha usado el lenguaje tecnológico GPT-3.5 para que se puedan introducir grandes cantidades de bases de datos en el robot. Gracias a este lenguaje se puede producir una conversación bilateral de forma “natural”. Además, se ha recurrido a algoritmos machine learning, una rama de Inteligencia Artificial que enseña a “pensar y aprender” a robots y máquinas.

ChatGPT se ha desarrollado escuchando y aprendiendo de conversaciones entre personas. Sus creadores enseñaron al sistema la conducta y el comportamiento que debe tener, por ello, los defensores alegan que el robot no tiene discursos o comentarios extremistas, xenófobos o racistas.

La otra cara de ChatGPT

Tras el lanzamiento del nuevo sistema de Inteligencia Artificial, expertos de todo el mundo se han posicionado a favor y en contra. Muchos de ellos argumentan que la inteligencia del robot es tan sólo un “espejismo lleno de trucos técnicos”.

El crítico de tecnología de “The Atlantic”, Ian Bogost, alegó en un artículo que “ChatGPT carece de la capacidad para comprender verdaderamente la complejidad del lenguaje y la conversación entre humanos. Esto significa que es probable que cualquier respuesta que genere sea superficial y carente de profundidad y perspicacia”.

Bogost afirma en su artículo que "ChatGPT es más tonto de lo que piensas". Así, puso a prueba a este sistema. “A veces simplemente usaba plantillas. Cuando le pedí a ChatGPT que generara una carta de presentación para un trabajo universitario, respondió de manera competente, pero sin inspiración. También produjo exactamente la misma carta para un trabajo como editor de una revista que para un trabajo como innovador de cannabis en el espacio Web3”, argumenta.

2022-12-28_2

Logotipo ChatGPT. Fuente: NURPHOTO VIA GETTY IMAGES.

El profesor emérito de la Universidad de Nueva York Gary Marcus explicaba en una entrevista en El Confidencial: “Si ChatGPT lleva a una persona a creer que es inteligente cuando no lo es, ese es el peligro". Marcus explica que el sistema “coge trozos de texto de aquí y allá, los pega y los reproduce, pero no entiende la relación entre esos trozos”.

Por otro lado, Joseba Ortega explica a elcierredigital.com que “es un sistema que le queda mucho por aprender y de ahí que se puedan dar incorrecciones, respuestas limitadas o incluso respuestas aparentemente sesgadas”.

ChatGPT vs Google

Tras la creación de esta Inteligencia Artificial hay gente que cree que podría acabar sustituyendo a Google. Sin embargo, Ortega explica que “todavía tiene mucho que pulir para poder ser un sustituto efectivo de Google, porque es un sistema que está en versión beta permanente porque está en constante aprendizaje”.

El creador de Gmail, Paul Buchheit, explicó que es la mayor amenaza para Google puesto que “la IA eliminará la página de resultados de búsqueda, que es de donde viene la mayoría de sus ingresos".

Por otro lado, Gary Marcus, al contrario que Buchheit, cree que es muy difícil sustituir a una herramienta como Google. “Con Google buscas algo y te da 10 páginas web, sabes que esas webs pueden ser útiles o no, pueden contener desinformación, pero puedes evaluar por ti mismo. Con ChatGPT lo que obtienes se parece más a una página de la Wikipedia y, desgraciadamente, parte de ese contenido va a ser erróneo. En lugar de dejarte a ti evaluar qué es bueno y qué no, decide por ti y te lo da todo hecho”, argumenta Marcus.

COMPARTIR: