🌐 Anthropic limita a Claude para evitar ingeniería inversa en videojuegos
Anthropic pren mesures per bloquejar Claude de fer enginyeria inversa en videojocs
Anthropic ha començat a restringir les capacitats de la seva intel·ligència artificial, Claude, per evitar que es dediqui a activitats com la modificació, descompilació o enginyeria inversa del codi de videojocs. Encara que no hi ha hagut un anunci oficial sobre les raons darrere d'aquesta decisió, la causa sembla bastant evident.
La comunitat de videojocs ha estat al centre d'atenció recentment, primer a causa de les filtracions de GTA6 que es van tornar virals i van portar a Take-Two Interactive a buscar ordres judicials contra Microsoft i Discord per trobar els responsables. Posteriorment, la comunitat de hackers i modders va descobrir com la intel·ligència artificial facilita molt la seva feina.
Els descompiladors de jocs van començar a treballar intensament, experimentant amb el codi font de diversos videojocs per, per exemple, inserir Mario de Nintendo en el món fosc gòtic d'Elden Ring, o importar Spider-Man en el joc Batman: Arkham City, barrejant sense problemes les mecàniques d'un personatge en el món d'un altre. Després van venir els ports: jocs com World of Warcraft, Call of Duty i Grand Theft Auto: Vice City es van tornar jugables en un navegador, sense que els desenvolupadors originals o els propietaris dels drets d'autor tinguessin veu en l'assumpte.
Aquestes modificacions i ports inicials ja estaven causant malsons a les companyies de videojocs, insinuant un futur sense control de sistemes. No obstant això, les coses realment es van descontrolar amb el jailbreak de la PlayStation 5, que va resultar en tot, des de la compatibilitat amb versions anteriors de jocs de PlayStation fins al joc multiplataforma, amb usuaris descobrint com executar títols exclusius d'Xbox com Halo 2 i títols aclamats de Nintendo com Zelda: Breath of the Wild en una PS5 alliberada.
Donada la quantitat potencial de demandes que aquests jailbreaks podrien causar i la naturalesa astronòmicament alta dels danys monetaris, no és sorprenent que les companyies d'intel·ligència artificial s'estiguin afanyant per tancar o restringir severament aquests camins. No obstant això, també és profundament irònic. Com assenyala el reporter de Tom's Hardware, Bruno Ferreira, aquesta preocupació sobtada pel copyright "destaca la ironia de les companyies d'IA d'avantguarda que van copiar la informació i l'art del món per als seus conjunts d'entrenament i ara estan preocupades per la infracció de drets d'autor".
També existeix la lletja veritat que, si una empresa fa un gest cap al respecte de la llei de drets d'autor o l'ètica bàsica, els mals actors poden trobar un altre model de llenguatge que no hagi pres (o encara no hagi pres) les mateixes precaucions, creant una mena de cursa armamentista d'IA impulsada per incentius perversos: la IA menys ètica podria estar llesta per convertir-se en la més popular.
Font: https://mashable.com/tech/anthropic-takes-steps-to-block-video-game-cloning-and-reverse-engineering
Anthropic takes steps to block Claude from reverse-engineering video games
Anthropic ha comenzado a restringir las capacidades de su inteligencia artificial, Claude, para evitar que se dedique a actividades como la modificación, descompilación o ingeniería inversa del código de videojuegos. Aunque no ha habido un anuncio oficial sobre las razones detrás de esta decisión, la causa parece bastante evidente.
La comunidad de videojuegos ha estado en el centro de atención recientemente, primero debido a las filtraciones de GTA6 que se volvieron virales y llevaron a Take-Two Interactive a buscar órdenes judiciales contra Microsoft y Discord para encontrar a los responsables. Posteriormente, la comunidad de hackers y modders descubrió lo mucho que la inteligencia artificial facilita su trabajo.
Los descompiladores de juegos comenzaron a trabajar intensamente, experimentando con el código fuente de varios videojuegos para, por ejemplo, insertar a Mario de Nintendo en el oscuro mundo gótico de Elden Ring, o importar a Spider-Man en el juego Batman: Arkham City, mezclando sin problemas las mecánicas de un personaje en el mundo de otro. Luego vinieron los ports: juegos como World of Warcraft, Call of Duty y Grand Theft Auto: Vice City se volvieron jugables en un navegador, sin que los desarrolladores originales o los propietarios de los derechos de autor tuvieran voz en el asunto.
Estas modificaciones y ports iniciales ya estaban causando pesadillas a las compañías de videojuegos, insinuando un futuro sin control de sistemas. Sin embargo, las cosas realmente se salieron de control con el jailbreak de la PlayStation 5, que resultó en todo, desde la compatibilidad con versiones anteriores de juegos de PlayStation hasta el juego multiplataforma, con usuarios descubriendo cómo ejecutar títulos exclusivos de Xbox como Halo 2 y títulos aclamados de Nintendo como Zelda: Breath of the Wild en una PS5 liberada.
Dada la cantidad potencial de demandas que estos jailbreaks podrían causar y la naturaleza astronómicamente alta de los daños monetarios, no es sorprendente que las compañías de inteligencia artificial estén apresurándose para cerrar o restringir severamente estos caminos. Sin embargo, también es profundamente irónico. Como señala el reportero de Tom’s Hardware, Bruno Ferreira, esta preocupación repentina por el copyright «destaca la ironía de las compañías de IA de vanguardia que copiaron la información y el arte del mundo para sus conjuntos de entrenamiento y ahora están preocupadas por la infracción de derechos de autor».
También existe la fea verdad de que, si una empresa hace un gesto hacia el respeto de la ley de derechos de autor o la ética básica, los malos actores pueden encontrar otro modelo de lenguaje que no haya tomado (o aún no haya tomado) las mismas precauciones, creando una especie de carrera armamentista de IA impulsada por incentivos perversos: la IA menos ética podría estar lista para convertirse en la más popular.
Fuente: https://mashable.com/tech/anthropic-takes-steps-to-block-video-game-cloning-and-reverse-engineering
Anthropic takes steps to block Claude from reverse-engineering video games
Anthropic has begun to restrict the capabilities of its artificial intelligence, Claude, to prevent it from engaging in activities such as modification, decompilation, or reverse engineering of video game code. Although there has been no official announcement regarding the reasons behind this decision, the cause seems quite evident.
The video game community has been in the spotlight recently, first due to the GTA6 leaks that went viral and led Take-Two Interactive to seek court orders against Microsoft and Discord to find those responsible. Subsequently, the community of hackers and modders discovered how much artificial intelligence facilitates their work.
Game decompilers began to work intensively, experimenting with the source code of various video games to, for example, insert Nintendo's Mario into the dark gothic world of Elden Ring, or import Spider-Man into the game Batman: Arkham City, seamlessly blending the mechanics of one character into the world of another. Then came the ports: games like World of Warcraft, Call of Duty, and Grand Theft Auto: Vice City became playable in a browser, without the original developers or copyright holders having a say in the matter.
These initial modifications and ports were already causing nightmares for video game companies, hinting at a future without system control. However, things really got out of hand with the jailbreak of the PlayStation 5, which resulted in everything from backward compatibility with PlayStation games to cross-platform play, with users discovering how to run Xbox exclusives like Halo 2 and acclaimed Nintendo titles like Zelda: Breath of the Wild on a liberated PS5.
Given the potential number of lawsuits these jailbreaks could cause and the astronomically high nature of the monetary damages, it is not surprising that artificial intelligence companies are rushing to close or severely restrict these avenues. However, it is also deeply ironic. As Tom's Hardware reporter Bruno Ferreira points out, this sudden concern for copyright "highlights the irony of cutting-edge AI companies that copied the world's information and art for their training sets and are now worried about copyright infringement."
There is also the ugly truth that if a company makes a gesture towards respecting copyright law or basic ethics, bad actors may find another language model that has not taken (or has not yet taken) the same precautions, creating a kind of AI arms race driven by perverse incentives: the less ethical AI could be poised to become the most popular.
Source: https://mashable.com/tech/anthropic-takes-steps-to-block-video-game-cloning-and-reverse-engineering
¿Te ha interesado esta noticia?
Recibe cada mañana el resumen de IA y sociedad directo en tu email.
Suscríbete gratis →