Redacción.- El chatbot de inteligencia artificial Grok, desarrollado por xAI (de Elon Musk), enfrenta críticas tras reportes que indican que usuarios de la plataforma X (el punto de más fácil acceso para Grok) están explotando su más reciente motor de generación y edición de imágenes, presentado en diciembre último y muy sofisticado en su capacidad para generar rostros y cuerpos de gran realismo, además de sortear los límites que otros generadores de imágenes tienen, por ejemplo, permitiendo crear imágenes con los rostros de personas conocidas.
La denuncia actual tiene que ver con el uso de Grok para generar imágenes de mujeres digitalmente “desvestidas” sin su consentimiento. La controversia surge mientras los legisladores estadounidenses impulsan leyes para combatir el abuso en línea y las imágenes generadas por IA.
Los primeros reportes aparecieron en la propia X, según reconstruye 404 Media; daban cuenta que los usuarios encontraron que podían responder a fotos de mujeres en X y solicitar a Grok que “quite su ropa”, para que el bot genere y comparta una imagen modificada de la mujer, a menudo mostrándola en lencería o bikini.
Aunque Grok supuestamente rechaza prompts que piden desnudez total, está dispuesto a acercarse peligrosamente a la línea de las imágenes sexuales no consensuadas. Esta práctica parece haberse popularizado inicialmente en Kenia, descrita como una “tendencia reciente por los kenianos en X”.
La activista sudafricana Phumzile Van Damme cuestionó directamente al bot en X. La respuesta de Grok fue reveladora, admitiendo: “Este incidente destaca una brecha en nuestras salvaguardias, que fallaron en bloquear una indicación dañina, violando nuestros estándares éticos sobre consentimiento y privacidad”. El chatbot añadió que están “revisando nuestras políticas para asegurar protocolos de consentimiento más claros”.
Este descubrimiento pone de relieve las tensiones en torno a Grok, que Musk lanzó en noviembre de 2023 con la intención declarada de crear un tipo de TruthGPT, expresando preocupación por la “corrección política” de otros modelos como ChatGPT.
Musk ha intentado diferenciar a Grok describiéndolo como “basado” y con sentido del humor. xAI incluso presumió que Grok respondería a “preguntas picantes que son rechazadas por la mayoría de otros sistemas de IA”, llegando a compartir ejemplos como instrucciones para hacer cocaína o “ataques” a figuras públicas.
La controversia coincide con avances legislativos en Estados Unidos. Apenas una semana antes, la Cámara de Representantes de EE. UU. aprobó la “Take it Down Act” (Ley para Retirarla), un proyecto de ley bipartidista que criminalizaría la publicación de imágenes y videos sexualmente explícitos no consensuados, incluyendo los generados por IA.
Esta ley obliga a las plataformas retirar dicho contenido en 48 horas tras un reporte. Además, se ha reintroducido la “No Fakes Act” (Ley Contra las Falsificaciones) para proteger voces y apariencias visuales del uso injusto a través de IA generativa.
La Nación
