Os cientistas criaram um sistema de inteligência artificial capaz de reconhecer quando não é confiável, usando redes neurais.
Sistema de IA “autoconsciente”
A inteligência artificial (IA) está cada vez mais presente em nossas vidas, o que é uma das grandes tendências do futuro. Gradualmente, mais e mais equipamentos baseados em IA estão surgindo, mudando o modo geral de vida e o comportamento em nossa sociedade.
A IA já toma decisões em áreas que afetam vidas humanas, como direção autônoma e diagnóstico médico. Portanto, é crucial que essas tecnologias sejam tão precisas e confiáveis quanto possível.
O sistema de rede neural recém-criado pelos pesquisadores pode, então, desempenhar um papel fundamental nisso, aumentando o nível de confiança dos sistemas com inteligência artificial.
De acordo com o cientista da computação Alexander Amini, um dos autores do projeto, precisamos ter não apenas modelos de alto desempenho, mas também modelos confiáveis. Precisamos ser capazes de entender quando podemos ou não podemos confiar na IA.
Portanto, os pesquisadores criaram um sistema que pode determinar se ele é confiável ou não. Essa “autoconsciência” é chamada de “regressão profunda e evidente” e sua avaliação é baseada na qualidade dos dados disponíveis. Quanto mais precisos e abrangentes forem os dados de treinamento, mais provável será que as previsões funcionem.
Por exemplo, em um sistema de veículo autônomo que precisa cruzar uma interseção, a rede poderia dar um comando de espera se estiver menos confiante em suas previsões.
VEJA TAMBÉM: A inteligência artificial pode revelar o que uma pessoa está pensando
Finalmente, a rede é confiável?
Embora sistemas semelhantes tenham sido construídos com redes neurais no passado, o que os torna diferentes é a velocidade. O nível de confiança pode ser obtido rapidamente, a tempo de se tomar uma decisão.
Os pesquisadores testaram o sistema usando-o para estimar a imagem, da mesma forma que um carro autônomo estima a distância. A rede foi bem-sucedida em seus resultados, com uma avaliação precisa de sua própria incerteza.
Os cientistas estão convencidos de que o sistema pode contribuir para a segurança em situações de uso de IA.
No entanto, ainda não é tão simples. Mesmo que a rede neural esteja certa em 99% dos casos, o 1% restante pode ter consequências graves, dependendo do cenário. Portanto, mais testes e melhorias ainda precisam ser feitos.
VEJA TAMBÉM: A inteligência artificial ainda não é uma ameaça
O que são redes neurais?
Redes neurais artificiais são modelos computacionais inspirados no sistema nervoso central humano, que podem realizar aprendizado de máquina e reconhecer padrões. Eles são sistemas de nós interconectados que funcionam como neurônios no cérebro humano, simulando o comportamento de redes neurais biológicas.
Usando métodos iterativos, eles podem aprender e melhorar continuamente ao longo do tempo. Eles podem, por exemplo, ajudar a criar programas que identificam objetos a partir de imagens. Eles são capazes de reconhecer padrões em conjuntos de dados gigantes que nós, humanos, não temos a capacidade de analisar.
VER MAIS: Os antigos imperadores romanos “renasceram” usando inteligência artificial
Com informações de Aviso científico. Você também pode verificar artigo inteiro.