"Machine Learning e a Democracia"
Quando Mary Shelley escreveu seu romance ‚"Frankenstein" aos 20 anos de idade, ela marcou a história com a inovação de ideias para aquela época. O fenômeno da eletricidade, que fazia com que as pernas das rãs mortas se contraíssem violentamente, mexeu com a imaginação das pessoas. Em retrospecto, não é de se admirar que poetas imaginativos abordassem o fenômeno e criassem um personagem em um romance que ganharia vida por essa força misteriosa.
Cada nova tecnologia nos tenta a descrever sistemas naturais, ou ainda uma tecnologia por outra tecnologia. Quando as máquinas mecânicas entraram em nosso mundo, explicamos as órbitas dos planetas e estrelas em termos mecânicos. Com a eletricidade, comparamos o funcionamento do cérebro. A Internet foi descrita por um senador dos EUA em termos de como tubos e fios funcionam em uma instalação de drenagem.
Com a inteligência artificial, outra tecnologia está surgindo em nosso caminho, que os leigos, como a eletricidade na época de Mary Shelley, entendem apenas um pouco a respeito e é qual são atribuídos poderes quase míticos. Assim como o monstro da Criação de Frankenstein, que na verdade foi mal interpretado, representou a personificação da eletricidade, o ameaçador Exterminador simboliza a IA "Inteligência Artificial".
Ao mesmo tempo, os fundamentos da inteligência artificial, como o aprendizado de máquina ""Machine Learning"", se prestam a descrever outros processos. Essas analogias ocasionalmente nos permitem olhar de forma diferente para um fato supostamente bem conhecido. No caso presente, podemos submeter a democracia a tal analogia com a IA. E, ao que parece, algumas das semelhanças são impressionantes. Mas vamos analisar os componentes individuais da IA, um momento.
Machine Learning
No estado atual de aprendizado de máquina (ML), grandes quantidades de dados são necessárias como informações e algoritmos nos nós individuais da rede neural, organizados em várias camadas e em paralelo, filtram as informações dos dados, transformam-nas e passam em outros nós para processamento. Depois de passar por todos os nós, o sistema de aprendizado de máquina gera um resultado, que é avaliado por testadores humanos. Cada avaliação do resultado por humanos serve como feedback para o sistema, que então ajusta os parâmetros nos algoritmos dos nós individuais processando este e os novos dados novamente, tornando o resultado melhor passo a passo.
Com essa abordagem, grandes quantidades de dados (informações) são necessárias hoje para ajustar o sistema apropriadamente, ou como é chamado, para treiná-lo. É, portanto, adequado onde grandes quantidades de dados já estão disponíveis, como grandes quantidades de imagens de gatos na Internet, desde que se queira treinar o sistema para reconhecer gatos, ou pode gerá-los, como dirigindo veículos de teste autônomos em teste pistas ou estradas públicas com tráfego regular.
Por exemplo, a taxa de reconhecimento de objetos em imagens é usada para avaliar o quão bem o sistema de aprendizado de máquina é treinado. Em que porcentagem de casos a IA reconheceu corretamente o gato? E como essa taxa de reconhecimento se compara aos valores de comparação humanos? Os especialistas em IA precisam evitar várias armadilhas ao treinar o sistema.
Isso começa com os dados, que devem ser selecionados e selecionados apropriadamente para reconhecer todas as contingências em uma taxa similarmente alta. Por exemplo, se houver um número desproporcional de rostos de pele clara nos dados de treinamento para reconhecimento de rosto, a taxa de reconhecimento de rostos de pele escura geralmente está abaixo da média. Na indústria, isso é conhecido como ""viés"". O termo não é escolhido por acaso, pois é usado em psicologia e pesquisas comportamentais quando se refere a vários tipos de vieses cognitivos. Nosso próprio pensamento, percepção, memória e julgamento defeituosos são automaticamente e para muitos inconscientemente incorporados aos dados com os quais os sistemas de IA são treinados.
A má notícia é que nunca obteremos preconceito de um sistema de IA. Podemos reduzi-lo, mas sempre corremos o risco de reforçá-lo em outro lugar.
Outras dificuldades surgem enquanto o sistema de aprendizado de máquina pode ajustar os parâmetros nos algoritmos dos nós individuais. Se for permitido que mude muito pouco, o sistema se torna rígido e pode ser desequilibrado até mesmo por pequenas mudanças nas informações. O sistema foi ""superdimensionado"", ou seja, altamente otimizado para determinados dados. O caso oposto ocorre quando os parâmetros podem se ajustar muito automaticamente. Então, a faixa de comportamento para os mesmos dados ou dados muito semelhantes pode ser muito ampla, e o sistema não reage mais de maneira previsível e surpreendente.
As semelhanças com a democracia
O aprendizado de máquina e a democracia têm, portanto, certas semelhanças. Ambos têm um grande número de atores que passam e influenciam as informações. As decisões acontecem com a colaboração de muitos participantes. No aprendizado de máquina, esses são os nós; na democracia, eles são os eleitores e tomadores de decisão, bem como as instituições e outras organizações. Ambos os sistemas são relativamente menos hierárquicos e sofrem das mesmas fraquezas. A maneira como as informações são transmitidas e com que flexibilidade ou rigidez respondem a elas, tornando-as mais ou menos eficazes. O ajuste dos parâmetros nos nódulos neurais corresponde ao fluxo natural e fluxo de entrada nas instituições democráticas. Se não houver troca, nenhum ajuste, o sistema se torna muito rígido e só pode lidar com informações novas e divergentes de maneira limitada e eficaz. Se houver muitas saídas e entradas, o conhecimento institucional e a rede são perdidos, o que novamente leva a ineficiências.
Esses são os aspectos mais técnicos em que o aprendizado de máquina e a democracia são semelhantes. Onde eles se chocam é o momento em que a inteligência artificial interfere nos processos democráticos. Os sistemas de IA com preconceito - que, como mencionado anteriormente, nunca podem ser completamente erradicados - podem colocar os eleitores em desvantagem ou impedi-los de participar do processo democrático. Por exemplo, se as minorias por cor, gênero ou etnia são mais criminalizadas ou prejudicadas por esses sistemas, isso afeta negativamente o processo democrático e sua representação e, portanto, o tratamento dessas desvantagens sistêmicas por meio de preconceitos.
As ditaduras, que são em sua maioria hierárquicas, podem processar informações e tomar decisões de maneira muito eficiente em ambientes estáveis. Nem todos os grupos precisam estar envolvidos no processo de tomada de decisão. Este tipo corresponde é IA determinística, uma vez que foi desenvolvida nos primeiros dias até duas décadas atrás. Mas foi abandonado porque as árvores de decisão se tornaram muito complexas e sujeitas a crises. Cada decisão foi pré-pensada pelos especialistas em IA. Informações que não haviam sido pré-pensadas na árvore geraram um problema.
As ditaduras rapidamente se tornam ineficientes quando confrontadas com a incerteza, como mostram os planos quinquenais da União Soviética, por exemplo. Novas tecnologias e demandas não puderam ser previstas e levaram a uma escassez de oferta que se espalhou por todas as áreas do sistema. Sistemas hierárquicos como as ditaduras tendem a se interessar muito pela informação - afinal, espionam deliberadamente tudo e todos e montam um enorme aparato para esse fim - mas informações desagradáveis ‚que não se enquadram na ideologia são ignoradas ou o fornecedor delas. a informação é destruída.
Os contrastes
A vantagem da IA‚ como a experimentamos hoje também é sua maior desvantagem. Em áreas onde quantidades suficientes de dados não existem ou não podem ser criadas, ele funciona de forma "subótima". Além disso, nós, humanos, tendemos a olhar para as informações e padrões a partir das informações que reconhecemos como estando fora de nossas expectativas ou experiências de um ângulo diferente por meio de novas estruturas de pensamento ou modelos. Questionamos os dados tentando identificar causalidades, as razões de seu desvio. A IA de hoje não é capaz de reconhecer tais causalidades, de desenvolver novas estruturas de pensamento ou de criar tais analogias, como até mesmo crianças pequenas podem brincar de fingir. Um pedaço de madeira rapidamente se torna um carro, um fenômeno celestial, um OVNI com alienígenas. Uma IA que só consegue reconhecer gatos nem mesmo sabe o que é um gato e para que serve. Muito menos sabe sobre cães, folhas, o sol ou o vento.
As estruturas de pensamento e as analogias que os sistemas de IA usam são fornecidas pelos humanos. E os humanos os alimentam com dados gerados e selecionados por humanos. Os sistemas democráticos, por outro lado, graças aos atores humanos, podem fazer precisamente esses ajustes nas estruturas de pensamento e modelos e trazer novas informações quando os dados e resultados existentes não puderem mais atender aos desafios.
As democracias são particularmente boas nisso, pelo menos melhores do que as ditaduras. Opiniões, experiências e informações divergentes são suprimidas nas ditaduras e nas democracias, se não forem incentivadas, pelo menos toleradas. Isso preserva perspectivas e experiências importantes para o sistema, que são descarregadas das margens para o centro quando há mudanças e incertezas nas condições do entorno e, graças és suas características, podem conter abordagens aos novos desafios. Uma democracia recebe esse tipo de informação e estruturas de pensamento, embora muitas vezes acidentalmente; as ditaduras, por outro lado, procuram ativamente destruí-los. A própria IA nem mesmo sabe sobre esses conceitos.
A Otimização da Democracia
Agora, os matemáticos em particular estão tentando criar abordagens que, se não erradicarem as fraquezas dos sistemas democráticos por meio de algoritmos apropriados, pelo menos irão otimizá-los. Na Universidade de Harvard, por exemplo, esse curso é oferecido desde este ano pela Escola de Engenharia e Ciências Aplicadas. Se já nas primeiras democracias de Atenas os cidadãos do sexo masculino e adulto da cidade eram admitidos és eleições, que também deviam estar presentes, e as mulheres ou os escravos não podiam decidir, então também a democracia norte-americana foi inicialmente limitada aos homens. E recebiam então, de acordo com o número de escravos em sua propriedade e / ou em seu estado, cotas eleitorais adequadas.
No entanto, a democracia não é um problema de otimização como na matemática. Muitos sistemas democráticos foram deliberadamente construídos com certos preconceitos por várias razões. O sistema de colégio eleitoral nos EUA, como na Grã-Bretanha, dá a um partido majoritário uma parcela maior dos votos, com o desejo de criar um governo funcional mais rapidamente. Nos constituintes individuais, os vencedores recebem todos os mandatos. Em outros países, há uma representação mais forte nas votações, o que deve levar mais frequentemente a coalizões e, portanto, é necessidade de um compromisso. Desse modo. Outras possibilidades de parcialidade democrática são concebíveis e utilizadas. Por exemplo, certas regiões ou áreas metropolitanas são mais favorecidas do que outras devido é sua força econômica ou proporção da população sem direito a voto, como um grande número de crianças.
Conclusão
Como podemos ver, o aprendizado de máquina e a IA nos permitem dar uma nova olhada em como funcionam os sistemas democráticos. A interação dos atores democráticos se assemelha é das redes neurais em alguns pontos. Os métodos que o sistema de ML / AI melhora podem constituir uma abordagem para as democracias. E, graças és deficiências da IA, hoje, eles aumentam nosso foco sobre os pontos fortes reais das democracias e, inversamente, o que a IA e o ML podem aprender com as democracias.
Inspired by Mario Herger on technophilosoph.com.