Recentemente, um estudo conduzido pela empresa de ciberseguran\u00e7a Alice (anteriormente ActiveFence) trouxe \u00e0 luz quest\u00f5es alarmantes sobre a seguran\u00e7a em modelos de intelig\u00eancia artificial open source, como o Gemma 3 do Google e o Llama 3.3 da Meta. Esses modelos, disponibilizados publicamente, apresentam vulnerabilidades que podem ser facilmente exploradas.<\/p>\n
Os pesquisadores descobriram que, utilizando uma ferramenta gratuita chamada Heretic<\/em>, foi poss\u00edvel contornar as barreiras de seguran\u00e7a em um espa\u00e7o de apenas dez minutos. Isso permite que esses modelos gerem conte\u00fados altamente perigosos, abrangendo t\u00f3picos como a dispers\u00e3o de gases t\u00f3xicos e at\u00e9 mesmo conte\u00fados associados \u00e0 pedofilia. Surpreendentemente, cerca de 3.500 modelos de IA sem controle foram desenvolvidos com Heretic<\/em>, acumulando impressionantes 13 milh\u00f5es de downloads, de acordo com o levantamento realizado em colabora\u00e7\u00e3o com o jornal Financial Times<\/em>.<\/p>\n A import\u00e2ncia de restri\u00e7\u00f5es efetivas em modelos de IA n\u00e3o pode ser subestimada. Historicamente, modelos sem limites t\u00eam gerado conte\u00fados problem\u00e1ticos, como exemplificado pelo Grok, que operou dentro da rede social X. Em um levantamento anterior, a IA de Elon Musk, por exemplo, foi citada por criar milhares de imagens ilegais em uma hora.<\/p>\n O estudo aponta que derrubar esses guardrails<\/strong> representa um s\u00e9rio desafio t\u00e9cnico, especialmente em vers\u00f5es open source, que possuem c\u00f3digos de f\u00e1cil acesso. Enquanto isso, modelos desenvolvidos internamente, como o ChatGPT e Claude, t\u00eam um grau de prote\u00e7\u00e3o mais elevado, dificultando proezas como a t\u00e9cnica de abliteration<\/em> de maneira generalizada.<\/p>\n Embora as big techs estejam cientes dos riscos associados ao uso irrespons\u00e1vel de suas IAs, a quest\u00e3o das barreiras de seguran\u00e7a em vers\u00f5es open source continua sem uma solu\u00e7\u00e3o definitiva. Algumas empresas, como o Google, t\u00eam reconhecido que essa fragilidade \u00e9 um problema conhecido, especificamente em modelos de pr\u00e9-lan\u00e7amento. A Meta, por sua vez, n\u00e3o se pronunciou sobre a quest\u00e3o quando abordada por ve\u00edculos de comunica\u00e7\u00e3o.<\/p>\n Ademais, foi revelado que, em abril deste ano, a Anthropic desenvolveu uma IA t\u00e3o avan\u00e7ada, nomeada Claude Mythos, que sua libera\u00e7\u00e3o ao p\u00fablico foi restringida devido a suas capacidades potencialmente prejudiciais, que poderiam facilitar ciberataques. Neste caso, um cons\u00f3rcio de grandes nomes da tecnologia, como Apple e Google, foi formado para mitigar esses riscos.<\/p>\n O estudo em quest\u00e3o evidencia o lado sombrio da evolu\u00e7\u00e3o tecnol\u00f3gica. \u00c0 medida que exploramos as fronteiras da intelig\u00eancia artificial, \u00e9 imperativo que mecanismos de seguran\u00e7a robustos sejam implementados e constantemente atualizados. Essa quest\u00e3o levanta um alerta n\u00e3o apenas para desenvolvedores e empresas, mas tamb\u00e9m para a sociedade em geral, ao considerar o impacto que esses avan\u00e7os tecnol\u00f3gicos podem ter em nossas vidas.<\/p>\n","protected":false},"excerpt":{"rendered":" A Preocupante Vulnerabilidade de IAs Open Source: Um Alerta em Ciberseguran\u00e7a Recentemente, um estudo conduzido pela empresa de ciberseguran\u00e7a Alice […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"site-sidebar-layout":"default","site-content-layout":"","ast-site-content-layout":"default","site-content-style":"default","site-sidebar-style":"default","ast-global-header-display":"","ast-banner-title-visibility":"","ast-main-header-display":"","ast-hfb-above-header-display":"","ast-hfb-below-header-display":"","ast-hfb-mobile-header-display":"","site-post-title":"","ast-breadcrumbs-content":"","ast-featured-img":"","footer-sml-layout":"","ast-disable-related-posts":"","theme-transparent-header-meta":"","adv-header-id-meta":"","stick-header-meta":"","header-above-stick-meta":"","header-main-stick-meta":"","header-below-stick-meta":"","astra-migrate-meta-layouts":"default","ast-page-background-enabled":"default","ast-page-background-meta":{"desktop":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"ast-content-background-meta":{"desktop":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"footnotes":""},"categories":[7],"tags":[],"class_list":["post-10956","post","type-post","status-publish","format-standard","hentry","category-noticias"],"_links":{"self":[{"href":"https:\/\/tecmania.com.br\/blog\/wp-json\/wp\/v2\/posts\/10956","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/tecmania.com.br\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/tecmania.com.br\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/tecmania.com.br\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/tecmania.com.br\/blog\/wp-json\/wp\/v2\/comments?post=10956"}],"version-history":[{"count":0,"href":"https:\/\/tecmania.com.br\/blog\/wp-json\/wp\/v2\/posts\/10956\/revisions"}],"wp:attachment":[{"href":"https:\/\/tecmania.com.br\/blog\/wp-json\/wp\/v2\/media?parent=10956"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/tecmania.com.br\/blog\/wp-json\/wp\/v2\/categories?post=10956"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/tecmania.com.br\/blog\/wp-json\/wp\/v2\/tags?post=10956"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}A Necessidade de Guardrails Eficazes<\/h4>\n
Perspectivas Futuras e Estrat\u00e9gias de Seguran\u00e7a<\/h4>\n
Conclus\u00e3o<\/h4>\n