Un estudio reciente demuestra que las personas no saben distinguir entre la información generada por la IA y Los seres humanos. De hecho, se encontró que la desinformación creada con GPT-3 era más difícil de detectar que las falsedades creadas por humanos. El antiguo chatbot de IA GPT-3 de OpenAI es más efectivo para difundir desinformación que los seres humanos.
Un informe titulado: “El modelo de IA GPT-3 (des)informa mejor que los humanos”, encontró a 697 participantes para ver si pudieron distinguir la desinformación de la verdad. Utilizando tweets generados por el GPT-3 de OpenAI, y si los participantes podrán determinar si un tweet era de un humano o de una IA.
The ChatGPT iOS app is now available in 152 countries and regions! See the full list here: https://t.co/nsLtZFLW6h
— OpenAI (@OpenAI) May 30, 2023
Los resultados de la investigación arrojaron que la puntuación media fue de 0,5, lo que sugiere que los participantes no pudieron distinguir entre tweets generados por IA y tweets humanos.
Como mostramos nuestros resultados, los modelos de lenguaje grande actualmente disponibles ya pueden producir texto que es indistinguible del texto orgánico. Por lo tanto, la aparición de modelos de lenguaje grande más poderosos y su impacto deben ser monitoreados.
Fragmento del informe sobre el modelo de IA GPT-3
A partir de nuestras conclusiones, “Predecimos que los generadores de texto de IA avanzados como GPT-3 podrían tener el potencial de afectar en gran medida la difusión de información, tanto de manera positiva como negativa”, citó el informe.
Te puede interesar: Canadá Apuesta por las Empresas Blockchain
Es necesario limitar la IA
Luego de los resultados obtenidos en el experimento social realizado, es necesario aplicar entrenamiento eficaz y limitar el uso de la IA. Para evitar abusos en la tecnología y malos entendidos entre la información difundida.
En temas como salud, pública, política y economía que son abordados a diario a través de las redes sociales, es sumamente urgente buscar opciones que permitan identificar la información falsa de la verdadera.
La propagación de la desinformación y los deepfakes generados por IA, llevó al Secretario General de la ONU, António Guterres, a pronunciarse a favor de una agencia internacional. Similar a la Agencia Internacional de Energía Atómica (AIEA), para monitorear el desarrollo de la inteligencia artificial.
“La aparición del odio y las mentiras en el espacio digital está causando graves daños globales ahora”, dijo Guterres durante una conferencia. “Está alimentando conflictos, muerte y destrucción ahora. Está amenazando la democracia y los derechos humanos ahora. Está socavando la salud pública y la acción climática, ahora”, agregó; para finalizar, diciendo que se debe prestar más atención al desarrollo de la AI.
