Desafios da representação do conhecimento moral e da motivação moral em sistemas inteligentes

Abstract

Com o avanço tecnológico dos sistemas digitais, houve uma evolução dos sistemas computacionais que supostamente "aprendem", o que levanta a necessidade de discutir questões éticas e morais. No entanto, ao relacionar ética e moral com questões tecnológicas, não podemos deixar de reconhecer que as tecnologias não são entidades autônomas, e os dados alimentados nos sistemas são resultado de especificações humanas, que podem conter vieses da natureza humana. Um fator importante a ser considerado é que os sistemas de aprendizado de máquina podem reproduzir e ampliar os preconceitos daqueles que fornecem conjuntos de dados de treinamento. Além disso, os sistemas podem ser eficientes em relações estatísticas, devido à definição matemática e às ciências exatas envolvidas, mas ineficientes em relações causais. Confundir esses dois conceitos é uma importante fonte de viés. Mesmo que os conjuntos relevantes de normas que representam a moralidade sejam identificados, ainda não está claro como essas normas devem ser representadas.