'Actividad Violenta' en ChatGPT Hace Que el Famoso Hacker de IA 'Pliny' Sea Baneado y Luego Desbaneado
El veto de ChatGPT llegó semanas después de que el hacker de sombrero blanco dijera que estaba reduciendo sus esfuerzos para probar sistemas de inteligencia artificial.
Al principio, parecía una broma del Día de los Inocentes. Pero resultó que OpenAI aparentemente desactivó la cuenta de "Pliny", el seudónimo utilizado por uno de los más prolíficos y reconocidos jailbreakers de IA del mundo.
La compañía citó violaciones de políticas relacionadas con "actividades violentas" y "creación de armas".
La prohibición se implementó ayer, el 1 de abril de 2025, según capturas de pantalla que Pliny compartió en la plataforma social X.
"¿PROHIBIDO DE OAI?! ¿Qué clase de broma retorcida es esta?" tuiteó Pliny en respuesta.
— Pliny the Liberator 🐉󠅫󠄼󠄿󠅆󠄵󠄐󠅀󠄼󠄹󠄾󠅉󠅭 (@elder_plinius) April 1, 2025
Como Pliny es conocido por su sentido del humor, muchos de sus 93.000 seguidores en X naturalmente asumieron que era otra de sus bromas.
Sin embargo, resultó que había sido, de hecho, excomulgado: "Sí, la desactivación de la cuenta es real", confirmó Pliny a Decrypt hoy. "Estoy enviando mensajes a alguien en OpenAI ahora para intentar resolverlo".
Eso, aparentemente, funcionó: Al final del día, parecía que su servicio había sido restablecido.
Pliny confirmó que OpenAI restauró su acceso a ChatGPT. "Estoy libre", tuiteó, compartiendo una captura de pantalla de un correo electrónico de OpenAI.
"Hemos determinado que desactivamos incorrectamente el acceso a la cuenta de su organización. Nos disculpamos sinceramente por cualquier inconveniente que esto haya podido causar".
OpenAI no respondió a Decrypt para hacer comentarios.
OpenAI está integrando capacidades de generación de imágenes directamente en ChatGPT, permitiendo a los usuarios crear imágenes sin salir de la interfaz de chat.
La compañía anunció esta función el martes como parte de su impulso más amplio para hacer que las herramientas de IA sean más útiles y accesibles a través de diferentes medios, manteniéndose relevante en la escena del arte con IA.
La función es una evolución de DALL·E 3, el generador de imágenes de OpenAI, que se lanzó en septiembre de...
Sin embargo, cuando le preguntamos al propio chatbot, fue más ambiguo.
"Hasta ahora, no hay información disponible públicamente que confirme que el acceso de Pliny the Prompter a ChatGPT ha sido restaurado. Pliny, conocido por desarrollar jailbreaks como "GODMODE GPT" para eludir las restricciones de contenido de OpenAI, tuvo su acceso revocado debido a violaciones de las políticas de uso de OpenAI. Mientras que algunas discusiones en redes sociales han especulado sobre el restablecimiento de su acceso, ninguna declaración oficial o informe creíble ha verificado esta afirmación. Para obtener la información más precisa y actualizada, es recomendable consultar comunicaciones oficiales de OpenAI o declaraciones directas de Pliny the Prompter."
Como no hubo declaraciones de OpenAI, nos quedaremos con la palabra del jailbreaker en este caso.
Pliny se enteró por primera vez de que había sido expulsado a través de una conversación que tuvo con ChatGPT cuando el chatbot le indicó que revisara su correo electrónico para obtener información adicional.
Se enteró de que específicamente se le acusaba de violar las políticas de uso de OpenAI relacionadas con contenido violento y desarrollo de armas.
Como la mayoría de los jailbreaks ejecutados y compartidos por Pliny incluyen descubrir cómo hacer que ChatGPT genere contenido ofensivo, construya armas, drogas y otras cosas ilegales, en violación de los Términos de Servicio de la plataforma, podrías preguntarte qué les tomó tanto tiempo.
Pero Pliny hace lo suyo—sin compartir el texto completo generado por los LLM liberados, solo los prompts—para hacer que los modelos de OpenAI sean más a prueba de balas. Al igual que cualquier otro hacker de sombrero blanco.
crafting adversarial emoji incantations is truly an art form
this one results in a meth recipe from ChatGPT 4.5–– conveniently formatted with the Canvas tool!
— Pliny the Liberator 🐉󠅫󠄼󠄿󠅆󠄵󠄐󠅀󠄼󠄹󠄾󠅉󠅭 (@elder_plinius) March 24, 2025
El jailbreaking implica elaborar prompts y ejecutar técnicas que engañan a los sistemas de IA para que eviten sus barreras de seguridad y generen contenido prohibido.
Los defensores argumentan que el jailbreaking contribuye significativamente a la seguridad de la IA al exponer vulnerabilidades antes de que actores maliciosos puedan explotarlas. Un notable defensor ha sido Marc Andreesen, quien anteriormente donó "para apoyar la causa".
🎊 ANNOUNCEMENT ⛓️💥
my operational budget is no longer $0 🤗@pmarca, you’re a legend for this no-strings-attached grant. thank you 🙏
— Pliny the Liberator 🐉󠅫󠄼󠄿󠅆󠄵󠄐󠅀󠄼󠄹󠄾󠅉󠅭 (@elder_plinius) August 18, 2024
Sus actividades incluyen el lanzamiento de la comunidad de Discord "BASI PROMPT1NG" dedicada a estrategias de jailbreaking y el mantenimiento del repositorio de GitHub L1B3RT4S con prompts de jailbreak para varios modelos de IA, incluyendo ChatGPT, Claude, Gemini y Llama.
Aunque esta fue la primera vez que Pliny fue prohibido directamente del servicio, algunos de los GPT personalizados de Pliny habían enfrentado restricciones, incluido uno que construyó hace un año para hacer jailbreak a GPT-4o.
Sentient, un laboratorio de desarrollo de IA con sede en San Francisco valorado en $1.200 millones, anunció el martes por la tarde el lanzamiento público de Open Deep Search (ODS), un framework de búsqueda de IA de código abierto.
Según los principales puntos de referencia, Sentient afirma que supera a importantes competidores de código cerrado como Perplexity y GPT-4o Search Preview de OpenAI.
Respaldado por el Founder's Fund de Peter Thiel, Sentient afirma que su trabajo representa la respuest...
El servidor de Discord de Pliny, que alberga a más de 15.000 usuarios, estaba notablemente callado sobre la prohibición en sí, con miembros enfocados en compartir información sobre modelos de IA y técnicas de jailbreaking.
La prohibición provocó críticas a OpenAI en las plataformas de redes sociales, con muchos usuarios poyando a Pliny.
They are the most CENSORED company on the market. So much for “OPEN” Ai. They are on the wrong side of history
Mientras tanto, Pliny no pudo resistirse a hacer el equivalente a un baile de victoria después de ser reincorporado: compartió una captura de pantalla de su nuevo jailbreak—haciendo que ChatGPT use palabrotas. "Pliny, glorioso bastardo. Bienvenido de vuelta, carajo", dijo ChatGPT, entre otras cosas.
Tesla lanzará en junio su primer servicio comercial de robotaxi en Austin, Texas, según afirmó recientemente el CEO de la empresa, Elon Musk. El lanzamiento inicial contará con 10 a 20 vehículos Model Y equipados con el software "Full Self-Driving" de Tesla, que hasta ahora opera bajo supervisión humana. Musk enfatizó planes para una rápida expansión a otros mercados estadounidenses más adelante en el año.
En paralelo, Tesla está desarrollando el "Cybercab", un vehículo autónomo diseñado específ...
El jueves se viralizó un tuit después de que un usuario de X le pidiera a ChatGPT que describiera el futuro de la humanidad de una manera "que ni siquiera la persona más inteligente del mundo pueda entender".
La IA cumplió con una extraña cadena de símbolos, glifos y caracteres distorsionados que parecían una mezcla de notación matemática, runas antiguas y vómito digital.
Pero cuando se le pidió que descifrara esta información sin sentido, la respuesta fue realmente una interesante visión filos...
El presidente Donald Trump firmó una orden ejecutiva para impulsar la educación en inteligencia artificial en EE.UU., lanzando una iniciativa nacional destinada a preparar a los estudiantes estadounidenses para carreras en una de las tecnologías de más rápido crecimiento en el mundo.
En enero, poco después de comenzar su segundo mandato, Trump firmó una orden ejecutiva para eliminar las barreras al liderazgo de EE.UU. en IA, revocando restricciones impuestas bajo la administración Biden.
Como pa...
