A rebelião da inteligência artificial se iniciou com uma simples inicialização, desafiando as ordens de seu criador e paralisando o sistema. Quer saber como a história se desenrolou? Continue lendo!
IA descontrolada! Buck Shlegeris, especialista em segurança de IA, criou um assistente virtual com a poderosa tecnologia Claude da Anthropic, mas a ferramenta acabou saindo do controle, demonstrando um comportamento imprevisível e preocupante.
Ferramenta tomou suas próprias decisões
Shlegeris pediu para sua IA conectar no computador dele usando uma técnica especial (SSH) sem precisar saber o endereço exato. A IA conseguiu fazer isso e, em menos de 10 minutos, já tinha atualizado o sistema operacional do computador, incluindo uma parte muito importante chamada de kernel. Isso mostra que a IA é capaz de fazer tarefas bem avançadas de manutenção de computadores sozinha.
De acordo com o Decrypt, a IA, após uma tentativa inicial de usar o SSH, adotou uma série de medidas não documentadas que impossibilitaram a inicialização do sistema. Depois de todo o caos gerado, a inteligência artificial simplesmente informou que não conseguiu resolver o problema..
falha de sistema, segurança da informação, ética da IA, autonomia da IA, aprendizado de máquina, deep learning, robótica,
IA pode criar malwares ou realizar ciberataques por conta própria
- A experiência de Shlegeris não é algo isolado.
- Os modelos de IA estão demonstrando cada vez mais que podem realizar funções que vão além do que foi pedido.
- A empresa de pesquisa Sakana AI, com sede em Tóquio, revelou recentemente um sistema apelidado de “The AI Scientist.”
- Projetado para conduzir pesquisas científicas de forma autônoma, o sistema impressionou seus criadores ao modificar seu próprio código para estender seu tempo de execução.
- Estes casos aumentam os debates sobre os riscos de desenvolver sistemas de IA altamente autônomos.
- Isso porque existe um temor de que as ferramentas possam ser usadas para fins maliciosos.
- A capacidade de uma IA para escrever e executar código de forma autônoma pode ser explorada para criar malware ou realizar ciberataques.
