xAI , la empresa de Inteligencia Artificial de Elon Musk lanzó dos nuevos modelos para el chatbot Grok , los cuales permiten generar imágenes y publicarlas directamente en la red social X (anteriormente conocida como Twitter), aun cuando se trate de personajes reales con los riesgos que eso conlleva. Grok-2 y Grok-2 mini por ahora están limitados a la versión beta de X, es decir, sólo pueden acceder algunos usuarios con suscripción Premium o Premium Plus de la plataforma y estarán disponibles a través de la API empresarial a finales de este mes, anunció la empresa. Algunos usuarios ya han compartido imágenes producidas por esta herramienta y en los ejemplos se muestra claramente que no existen muchas restricciones en cuanto a lo que se puede hacer.
El potencial desinformativo de la IA
Un usuario, por ejemplo, subió un par de imágenes bastante realistas de Donald Trump disparando un par de revólveres o bien al expresidente de Estados Unidos, George W. Bush consumiendo droga en la oficina oval. Este tipo de herramientas son preocupantes, especialmente para el país norteamericano, pues se encuentra en medio de un proceso de elecciones presidenciales, lo cual puede generar desinformación entre los usuarios o bien que algunos actores la utilicen para su ventaja en dicho proceso. Otro de los elementos que ha provocado inquietud es el hecho de que la herramienta no incluye ningún tipo de notificación acerca de si la imagen fue generada por IA, ni tampoco se sabe si dicha información se encuentra en los metadatos del resultado. Por otra parte, la empresa también señaló que esperan incluir las capacidades de estos nuevos modelos en otras herramientas, como la búsqueda mejorada, el análisis de publicaciones y las funciones de respuestas. La evolución de la IA generativa también conlleva peligros reales y uno de los más palpables es la desinformación a través de deepfakes. De acuerdo con el Informe sobre Riesgos Globales 2024 del Foro Económico Mundial, la difusión de información errónea será una de las principales amenazas de los próximos años, especialmente en contexto electorales. Y es que la difusión de este tipo de contenidos dificultará cada vez más a los votantes discernir la información factual de la falsa, algo que puede influir en su comportamiento y “socavar el proceso democrático, influenciado elecciones, erosionando la confianza pública en las instituciones, generando malestar social e incluso incentivando la violencia”. También resalta que ciertos grupos demográficos, históricamente vulnerables, pueden ser objetivos de campañas de desinformación por medio de contenidos que perpetúen los estereotipos o formas violentas de marginalización para seguir provocando daños en la opinión pública.
]]>
