Cuidado con lo que escribes, la IA te está vigilando | Opinión
 |
|---|
Cuidado con lo que escribes, la IA te está vigilando
Opinión
Feliz miércoles amigos de COTINA. Hoy les traigo mis reflexiones sobre una noticia que apareció hace unas dos semanas atrás; me llamó la atención por las implicaciones tanto positivas como negativas que se generan de ella, de tener éxitos los investigadores. Se trataría de “enseñar a la IA a reconocer en redes sociales y en periodismo, contenido dirigido a radicalizar; esto sería como: capaz de detectar: incitación al odio” en términos venezolanos.
La noticia
Publicado por la Sala de Prensa de la Universidad Politécnica de Madrid. El artículo Ver [2] describe (por encima en mi opinión) como investigadores de dicha universidad desarrollan un sistema de aprendizaje automático para IA, dirigido a la detección de contenido radical en la web.
Por lo que entendí, el objetivo es enseñar a la IA a identificar y comprender tanto las emociones como los valores expresados en el contenido analizado, usando algoritmos. Esto, para así identificar “material que pueda resultar dañino para la sociedad. Imagínense, ya esa última frase me puso a temblar.
Implicaciones
Primero, porque le estariamos dando autoridad a los desarrolladores de IA, para hacer seguimiento a lo que publicas, evaluarlo y decidir en base a algoritmos si lo que publicas es “radical” (léase violento, bulling, terrorista, entre otros.)
En segundo lugar, mi imaginación y mi lado que cree en las teorías conspiratorias me recordó aquella película de Ton Cruise, Minority Report, donde una inteligencia adivinaba cuando ibas a cometer un crimen y te detenían antes de hacerlo, haciéndote culpable sin haberlo cometido en realidad.
Lo positivo, por otro lado, es que bien aplicado contribuiría a disminuir los prejuicios y radicalismos raciales, de género, políticos. Y en una época donde cualquiera se cree libre de escribir y publicar sus “prejuicios” sin consecuencias, esto de alguna manera te llevará a pensarlo antes de “dar enter” a lo que escribiste.
Sin embargo, no deja de crear preocupaciones sobre nuestra privacidad y la libertad de expresión. Usar algoritmos para monitorear y filtrar contenido en línea plantea interrogantes sobre quién va a definir lo qué va a ser considerado "radical".
Y siendo las emociones y valores humanos algo muy subjetivo, existe el riesgo de ser censurado injustamente o discriminación basado en esas interpretaciones subjetivas.
En Resumen:
El uso de la inteligencia artificial para detectar “contenido radical” puede ser una valiosa herramienta en la lucha contra prejuicios y radicalismo extremos. Sin embargo, se hace crucial que se garantice que su implementación respete los derechos de privacidad y libertad de expresión. Te invito a informarte leyendo el articulo que coloqué en la fuentes y hazte tu propia opinión.
Fuentes Consultadas
[2] Descubren cómo detectar de manera automática contenidos orientados a radicalizar Fecha: 15/04/24
Imágenes
- [1] Las imágenes y gif son de mi creación a partir de Promts editados en Ideogram.ai. Dicha aplicación emplea la Inteligencia Artificial, para generar imágenes, a partir de frases y oraciones escritas. Estas son libres de derechos. [1] Ver mi galería en Ideogram.ai: joslud
Mi post de presentación a Steemit : ¿Quién soy? en 7 niveles
 Original production by @joslud -- #wox-joslud |
Hi, @joslud,
Your post has been voted on by the @ecosynthesizer curation team.
Thank you for your contribution to the Steem ecosystem.
- Explore Steem using our Steem Blockchain Explorer
- Easily create accounts on Steem using JoinSteem
- Delegate to @ecosynthesizer and wtiness vote @symbionts to support us.
Si la ia hoy en día está avanzando a un ritmo demasiado rápido que los parámetros se hacen cada vez más pequeño o delgados a lo que con límites en que se haga referencia sim embargo creo que debemos utilizar con recomendar frecuencia las inteligencias artificiales.
Saludos cordiales, paisano. Bueno, los asesores de inteligencia en la gran mayoría de los países usan la IA a la hora de tomar ciertas decisiones. Es como buscar una opinión adicional que les sirva de base antes de dar algún paso importante. Pero tampoco es raro en que muchos gobiernos autoritarios estén utilizando estas herramientas para identificar a sus adversarios. Excelente post.