Os agentes de IA trazem eficiência da automação, decisões e acções em escala, mas “orisco desta autonomia tem de ser controlado e monitorizado desde o início”, refere o ‘lead solutions architect & GenAI Evangelist’ na tecnológica.

“A questão não é apenas de automação, mas sim do grau de autonomia que queremosatribuir a estes sistemas. Se não houver limites bem definidos, os agentes podem começar a tomar decisões que não compreendemos ou antecipamos”, prossegue Vítor Domingos.

Os agentes de IA são sistemas inteligentes autónomos com capacidade de realizar tarefas sem intervenção humana.

“Quando um sistema autónomo começa a actuar fora do esperado, deixa de ser apenas um problema técnico para se tornar uma questão de responsabilidade legal e, eventualmente, social”, e “o que vejo é a falta de mecanismos robustos de auditoria e reversibilidade”, aponta o responsável da Hitachi Digital Services.

Para mais informações aceda ao   Link: https://tek.sapo.pt/noticias/computadores/artigos/agentes-de-ia-trazem-mais-eficiencia-mas-a-sua-autonomia-tem-de-ser-controlada-e-monitorizada