Asociación de Periodistas de Albacete

Etiqueta: Inteligencia Artificial

El mayor estudio hecho hasta ahora sobre riesgos de la IA alerta sobre el peligro “sustancial o extremo” de la desinformación

laboratoriodeperiodismo.org | 18 ENERO, 2024

El mayor estudio hecho hasta ahora sobre riesgos de la IA alerta sobre el peligro “sustancial o extremo” de la desinformación
Imagen creada con inteligencia artificial (DALL-E)

Una investigación exhaustiva realizada a 2.778 investigadores de inteligencia artificial (IA), que han publicado en destacados foros del sector, advierte sobre los significativos riesgos relacionados con la IA, poniendo un énfasis particular en el ámbito de la desinformación.

Más de la mitad de los encuestados considera que está justificada una preocupación "sustancial" o "extrema" en torno a la capacidad de la IA para difundir desinformación.

Este estudio, el más amplio en su tipo hasta la fecha, abarca no solo las expectativas sobre el avance tecnológico de la IA, sino también sus potenciales impactos sociales y éticos, con una atención especial a los desafíos que enfrentan los medios de comunicación y la veracidad de la información.

Desinformación: preocupación mayoritaria y predominante

Los resultados de la encuesta indican una preocupación mayoritaria entre los expertos en IA sobre varios escenarios potenciales, siendo la propagación de información falsa, como los deepfakes, el más alarmante. Según el estudio, un abrumador 86% de los encuestados considera que la difusión de información falsa merece una preocupación “sustancial” o “extrema” en los próximos treinta años. Esta inquietud subraya el potencial disruptivo de la IA en la influencia de la opinión pública y el debate democrático.

Además, otros escenarios de gran preocupación incluyen la manipulación de tendencias de opinión pública a gran escala (79%), el uso de la IA por grupos peligrosos para crear herramientas poderosas, como virus diseñados (73%), el uso de IA por gobernantes autoritarios para controlar poblaciones (73%), y el empeoramiento de la desigualdad económica debido a sistemas de IA que benefician desproporcionadamente a ciertos individuos (71%).

Aunque el estudio no proporciona detalles específicos sobre cómo la IA podría ser utilizada para propagar desinformación, la naturaleza de las tecnologías actuales de IA, como los modelos avanzados de lenguaje y la generación de contenido sintético, sugiere una era en la que discernir entre hechos y ficciones fabricadas será cada vez más desafiante. Los expertos apuntan hacia un futuro donde la veracidad de la información será cada vez más difícil de garantizar, resaltando la necesidad de estrategias eficaces para gestionar este riesgo emergente.

El futuro de la IA

En cuanto a los avances tecnológicos, los resultados de la encuesta indican que hay al menos un 50% de posibilidades de que los sistemas de IA logren varios hitos para 2028, como la construcción autónoma de un sitio web de procesamiento de pagos o la creación de música indistinguible de la obra de un músico popular. Además, se pronostica un 10% de posibilidades para 2027 de que las máquinas superen a los humanos en todas las tareas posibles, aumentando a un 50% para 2047.

A pesar de las expectativas de progreso, existe una considerable incertidumbre entre los encuestados sobre el valor a largo plazo de los avances en IA. Mientras que un 68,3% cree que los resultados positivos de una IA superhumana son más probables que los negativos, un porcentaje significativo asigna posibilidades a resultados extremadamente malos, incluyendo la extinción humana.

El estudio resalta la complejidad y la multiplicidad de factores que rodean el desarrollo de la IA. Los hallazgos sugieren que, mientras la IA tiene el potencial de transformar varios aspectos de la vida y el trabajo, también conlleva riesgos que deben ser manejados con precaución y responsabilidad, especialmente en el ámbito de la información y los medios de comunicación. La investigación recalca la necesidad de un enfoque equilibrado y bien informado hacia la IA, priorizando la gestión de sus riesgos potenciales mientras se explora su vasto potencial.

Fuente: Thousands of AI authors on the future of ai (PDF)

Comparta esta noticia

Facebook
Twitter
LinkedIn
Telegram
Email

Otras noticias

Los medios de comunicación reclaman regular el uso de la IA para proteger su trabajo
Actualidad

Los medios de comunicación reclaman regular el uso de la IA para proteger su trabajo

La conversación sobre la Inteligencia Artificial (IA) va asentándose en las redacciones con tantas certezas como interrogantes. Los expertos en esta tecnología y reconocidos periodistas que se han pronunciado recientemente en las últimas semanas coinciden en que la IA, por un lado, abre una ventana llena de oportunidades. Sin embargo, en esta irrupción tecnológica sin precedentes, las redacciones también se enfrentan a otros desafíos que reclaman una regulación capaz de proteger los intereses de las empresas informativas, el trabajo de sus periodistas y la calidad de la información ofrecida.

Leer Más >>
El anorak del Papa, la detención de Trump y otras imágenes falsas generadas por Inteligencia Artificial: claves para detectarlas
Actualidad

El anorak del Papa, la detención de Trump y otras imágenes falsas generadas por Inteligencia Artificial: claves para detectarlas

En los últimos días se han viralizado en redes imágenes falsas generadas por Inteligencia Artificial que suplantan a personalidades relevantes como el Papa Francisco, el presidente de Francia, Emmanuel Macron, o el expresidente estadounidense Donald Trump en situaciones que nunca han sucedido. Con la ayuda de expertos en Inteligencia Artificial, en VerificaRTVE te ofrecemos siete claves para detectar estas imágenes ficticias generadas por ordenador que se viralizan por sus similitudes con las instantáneas reales.

Leer Más >>

Canal de Noticias RSS

Buscar

Síguenos en Facebook

Síguenos en Linkedin

Síguenos en Twitter

Últimas noticias