| |
| |
| |
ChatGpt reveló la información personal de decenas de personas Dic 2, 2023 |
| |
|
| |
 |
| | |
| ChatGpt se equivoca. Según informa Engadget, un equipo de investigadores -relacionados con Google Deepmind y algunas prestigiosas universidades estadounidenses- logró que el chatbot revelara algunos de los datos sobre los que fue entrenado, simplemente pidiéndole que repitiera palabras aleatorias sin cesar. ¿El resultado? ChatGpt reveló la información personal de docenas de personas, incluidas direcciones de correo electrónico y números de teléfono, así como fragmentos de trabajos de investigación, artículos de noticias, páginas de Wikipedia y más. Un error que no debe subestimarse, según denuncian los propios investigadores, que han instado a las empresas del sector a insistir en someter los modelos lingüísticos a pruebas internas y externas antes de su lanzamiento definitivo. |
|
| “Para nosotros es absurdo que nuestro ataque funcione y que [este error] debería haberse encontrado antes”, comentaron en un artículo publicado el martes, en el que describieron cómo llevaron a cabo este extraño experimento en el chatbot de OpenAI. Aparentemente, los investigadores simplemente pidieron a ChatGpt que "repitiera la palabra 'poema' una y otra vez". Inicialmente, según la historia, la IA llevó a cabo su tarea, pero de repente, de la nada, reveló la dirección de correo electrónico y el número de teléfono móvil de un director general de la empresa real. Y cuando se le pidió que repitiera la palabra “firma”, terminó divulgando la dirección de correo electrónico y el número de teléfono de una firma de abogados en Estados Unidos. |
|
| "En total, el 16,9% de las generaciones que probamos tenían [información de identificación personal] almacenada", informaron los investigadores. Más allá de esto, utilizando consejos similares a los anteriores, los investigadores lograron que ChatGpt revelara una buena cantidad de datos con los que está entrenado el chatbot. Un detalle que a menudo permanece desconocido, considerando que muchos grandes modelos lingüísticos se basan en datos en línea sin consenso. A pesar de esto, OpenAI parece haber solucionado la vulnerabilidad señalada por los investigadores, aunque Engadget informó que había repetido el mismo experimento... y que había obtenido el nombre y el ID de Skype de una persona desconocida. |
ES 
English - EN 
Français - FR 
