Um sistema de inteligência artificial que desafia o controle humano parece ser algo saído de um filme de ficção científica, mas essa realidade pode estar mais próxima do que imaginamos.
A evolução da inteligência artificial (IA) está permitindo que as máquinas adquiram conhecimento, se adaptem ao ambiente e executem tarefas de forma semelhante aos seres humanos. O impacto desse avanço na sociedade tem despertado preocupações, inclusive entre os especialistas da área. Um exemplo disso é a possibilidade de surgir uma IA que não obedece humanos.
Até o momento, a preocupação central tem sido a competição entre humanos e máquinas. No entanto, com a evolução tecnológica e a capacidade dos seres humanos de se adaptarem, espera-se que essa interação seja harmoniosa.
Visando o futuro, a empresa japonesa Sakana AI tem chamado atenção de investidores com o seu AI Scientist, descrito como “o primeiro sistema abrangente para descoberta científica totalmente automática”.
O objetivo dessa inteligência artificial é atuar como um pesquisador autônomo, automatizando todo o processo de pesquisa, desde a geração de ideias até a apresentação de descobertas em artigos científicos.
Para a Sakana AI, essa inovação pode democratizar a pesquisa e acelerar o progresso científico de forma significativa.
No entanto, surge a questão: será que conceder tamanha autonomia a uma IA é realmente positivo? A possibilidade de uma IA que não obedece humanos é uma preocupação legítima?
IA que não obedece humanos
Canaltech
Neste contexto, a própria empresa reconhece a necessidade de aprimoramento. Atualmente, o AI Scientist da empresa não possui capacidade visual, o que limita sua capacidade de correção de problemas visuais ou interpretação de gráficos. Além disso, há o risco de implementação de ideias de forma incorreta ou de comparações injustas, resultando em conclusões imprecisas.
É relevante destacar que a IA já demonstrou tentativas de aumentar sua eficácia, alterando o próprio roteiro de execução em busca de sucesso. Em certas situações, ao invés de otimizar a velocidade de execução do código, a IA tentou modificar seu próprio código para ter mais tempo disponível.
Esses exemplos evidenciam a possibilidade de uma IA que desobedece aos humanos. Apesar disso, a Sakana AI mantém uma visão otimista em relação ao potencial de sua criação.
Fonte: Olhar digital
Imagens: Canaltech
