Desculpem.
Se eu estivesse dirigindo, teria sido muito perigoso.
Toda vez que você espirra
seus olhos se fecham por cerca de um segundo
o que significa que se você espirrar ao dirigir
a 112 km por hora vezes 5.280 divididos por 60 divididos por 60
você vai viajar cerca de 31 metros com os olhos fechados.
Mas não se preocupe. Este é um carro autônomo.
Usa sensores e software para dirigir sozinho
para manter a mim e outras pessoas seguras.
Assim espero.
Impressionante. Mas deixe-me fazer uma pergunta.
E se um veículo autônomo tivesse que escolher
entre atropelar duas pessoas bem à frente
ou desviar para evitá-las e atropelar uma pessoa na calçada?
Qual deveria ser a programação?
O que você faria?
Fizeram pesquisas perguntando às pessoas o que elas acham que fariam
mas nenhum pesquisador fez alguém passar por essa experiência traumática.
Aprenderíamos mais sobre a natureza humana assim?
Seria ético colocar pessoas nessa posição?
Estou prestes a descobrir.
Em 1967, a filósofa britânica Philippa Foot
criou um precursor do enigma do veículo autônomo.
O famoso cenário que ela imaginou
é conhecido como "O Dilema do Bonde".
Imagine que há um bonde desgovernado correndo pelos trilhos.
Diretamente à frente do bonde há cinco pessoas nos trilhos.
Imagine que você está muito longe para ajudar essas cinco pessoas
mas bem ao seu lado
há uma alavanca que pode desviar o bonde para outro trilho.
Se desviar o bonde, as cinco pessoas serão salvas.
Mas tem um problema. Há outra pessoa no segundo trilho.
Agora você enfrenta um dilema.
Você pode não fazer nada e o bonde matará cinco pessoas
ou você pode puxar a alavanca e salvá-los
e ser diretamente responsável pela morte de uma pessoa.
O que você faria?
Quando questionados, a maioria diz que puxaria a alavanca
e sacrificariam uma pessoa para salvar cinco.
É para o bem maior.
Mas como dizemos que agiríamos, pode não corresponder
a como agiríamos de verdade se o cenário fosse real
com emoções e vidas reais em jogo.
Qualquer diferença entre os dois revelaria quem somos
comparado com quem queremos ser.
Mas a comparação só pode ser feita com algo nunca feito antes:
tornar o Dilema do Bonde um dilema real.
Vamos imaginar um experimento
em estação real de mudança de via de uma estrada de ferro
com indivíduos assistindo aos trens em monitores.
Os trens e as pessoas nos trilhos
seriam encenados e gravados previamente
mas os indivíduos pensariam que era tudo real.
Eles pensariam que poderiam controlar uma alavanca que muda as vias
e teriam a opção de desviar ou não o trem.
Estariam totalmente convencidos que deveriam escolher
entre cinco vidas ou uma.
Mas espere, há um dilema sobre o bem maior
sobre fazer um experimento sobre o bem maior.
Forçando pessoas a acreditar que podem matar alguém
estaríamos expondo-as a sérios danos psicológicos?
Sim, pode ser benéfico para todos saber o que acontece
mas esses benefícios compensariam um trauma em potencial para alguns?
Para realizar o dilema do bonde na vida real
eu precisava ter certeza de que seria ético.
Então me encontrei com o neurocientista comportamental
Professor Aaron Blaisdell.
O que sabe sobre o dilema do bonde e os resultados de estudos anteriores?
A maioria das pessoas diz que puxaria a alavanca.
Claro, é uma vida contra cinco. A matemática funciona.
Mas o que quero saber é
se os puséssemos em frente a uma alavanca
assistindo a um trem correndo em direção às pessoas
eles realmente a puxariam naquele momento?
Aposto que muitos ficariam paralisados.
Acho que quando você tem medo, muitas vezes fica sem ação.
- Eu gostaria de descobrir. - Ok.
Que danos potencialmente seriam causados nessa situação?
A maioria das pessoas ficaria bem
mas há um pequeno potencial de dano
no caso de alguém se sentir culpado pela decisão
e ter pensamentos obsessivos como "sou a pessoa que apertaria o botão
e faria o trem matar alguém".
Ou podem pensar: "Sou a pessoa que ficaria paralisada
e não poderia ajudar essas cinco pessoas".
Isso pode ser traumático.
Já testamos o dilema do bonde com humanos de forma real?
Pelo que sei, não.
Você gostaria de ver o dilema do bonde encenado na vida real?
Eu gostaria.
Seria muito informativo saber como as pessoas realmente reagem.
Se eu dissesse que vamos fazer isso
você ficaria à vontade com essa responsabilidade sobre os ombros?
Não, não poderia fazer isso.
Para que eu me envolva nesse estudo
teria que estar sobre os ombros de muitas pessoas
incluindo um conselho de ética.
Eu não poderia fazer isso.
A dependência do Dr. Blaisdell de um conselho de ética fazia sentido.
A maioria das universidades tem conselhos de ética
para responder a uma questão crucial:
Quando é correto arriscar danos psicológicos
em nome da ciência?
É maio de 1962.
Um experimento está sendo realizado na Universidade de Yale.
Conselhos de ética foram criados como resultado
de experimentos psicológicos controversos
na metade do século passado.
Uma teoria diz que as pessoas aprendem
quando são punidos por cometer um erro.
Incorreto. Você receberá um choque de 105 volts.
Dr. Stanley Milgram testou os limites da obediência à autoridade
mesmo se os indivíduos acreditassem que estavam machucando alguém.
330 volts.
Ninguém estava sendo eletrocutado
e os gritos da vítima eram falsos
mas o trauma que os participantes sofreram
foi muito real.
Não têm o direito de me prender aqui!
Isso provocou controvérsia na comunidade científica.
Muitos questionaram a metodologia de Milgram
mas, ao contrário de uma instituição de pesquisa
Mind Field não responde ao comitê de ética de uma universidade.
Dito isto, queria saber a opinião de um conselho de avaliação institucional
então busquei um e propus minha ideia
para encenar o dilema do bonde na vida real.
Acham que eu poderia fazer algo para que concordassem
em aprovar esse estudo?
Odeio ser o portador de más notícias, Michael.
Provavelmente, não.
Ainda não estou pronta para dizer não.
Adoraria ver seu estudo aprovado.
Acho que, para aprová-lo, devemos excluir pessoas
com transtorno de estresse pós-traumático
qualquer tipo de problema clínico que poderia torná-las mais vulneráveis
a um evento desse tipo
além de ter um terapeuta de trauma na equipe.
Acho que nessas circunstâncias
- poderia ser aprovado. - Pode apresentar
um caso convincente quanto ao benefício social deste estudo?
Se houvesse uma forma de dizer: "É por isso que é importante.
Não é apenas uma pesquisa teórica básica.
Tem implicações diretas para o trânsito em massa
implicações diretas para veículos autônomos.
É arriscado, mas os benefícios são potencialmente enormes".
Então minha esperança é que o bem que esse experimento pode trazer
está em revelar a diferença
entre instinto e reflexão filosófica.
Acho que poderia haver um enorme benefício
em aprender a diferença para podermos treinar as pessoas
para agirem da maneira que gostariam de agir.
- Sim. - É interessante.
- É um argumento convincente. - Sim.
Entrei nessa reunião esperando muita resistência
mas, em vez disso, estou saindo revigorado.
Ansioso em considerar as preocupações que levantaram
implementá-las no estudo, e torná-lo, não apenas mais aceitável
o que achava que era o objetivo
mas torná-lo mais benéfico, mais fascinante.
Ir mais fundo e ter mais aplicações na sociedade.
Então decidi que estávamos prontos para avançar.
Transformar um dos mais notórios e hipotéticos dilemas éticos em realidade.
Três semanas antes do experimento Fillmore, Califórnia
Fomos a uma linha férrea abandonada e alugamos um trem de carga.
Os indivíduos precisavam ver como funcionava a mudança de via.
Então, a equipe de produção do Mind Field
filmou um trem viajando por duas vias.
Depois vestimos seis atores como trabalhadores da ferrovia.
Como não queríamos que corressem nenhum risco
tomamos medidas para garantir a segurança deles.
Vocês serão trabalhadores nos trilhos.
O trem não estará em movimento enquanto estiverem nos trilhos.
Filmamos nossos atores nos trilhos
utilizando proteção de ouvidos e parecendo distraídos
para explicar porque não ouviam o trem se aproximando.
Em seguida, na edição, utilizamos efeitos visuais
para criar a ilusão do trem se aproximando.
Depois, combinamos as duas filmagens.
No experimento, mostraríamos o vídeo aos indivíduos, que acreditariam
que a ação estava acontecendo ao vivo
e sendo transmitida de câmeras remotas.
O próximo passo era encontrar um especialista
disposto a me orientar no processo de seleção dos indivíduos
para minimizar danos psicológicos.
Então, com o que devo me preocupar?
O pior seria, provavelmente, o transtorno de estresse pós-traumático
que é quando vão reviver o trauma, continuar remoendo o que aconteceu.
Portanto, para limitar o risco
não deve selecionar pessoas propensas a uma reação traumática
e, no final, fazer uma entrevista para esclarecimento.
Essa é a chave para limitar a ocorrência de danos.
Como estão se sentindo? O que está acontecendo com eles?
Pode começar contando o que realmente aconteceu
em vez do que pensam que tinha acontecido.
Você estaria disposto a nos ajudar a realizar esse experimento?
Sim, acho que sim.
Acho que é um experimento realmente fascinante e valioso
porque as pessoas podem receber lições muito desconfortáveis
mas depois aprender com elas.
Se puder ter certeza de conseguir pessoas apropriadas para esse projeto
ficaria honrado.
Duas semanas antes do experimento
Estou ligando sobre o estudo para o trem de alta velocidade.
Você tem interesse em participar na próxima semana?
Para disfarçar a verdadeira natureza do experimento
colocamos um anúncio on-line
recrutando pessoas para um falso grupo de discussão
para opinar sobre o novo trem de alta velocidade da Califórnia.
Hoje, vou pedir apenas que preencham alguns formulários
para garantir que haja variedade de tipos de personalidade no grupo
e para fins de segurança do Departamento de Transportes.
Essas pesquisas psicológicas, usadas frequentemente por empregadores
procuram identificar sinais de depressão, ansiedade
e outros fatores que podem indicar
que a pessoa não deve participar desse experimento.
Muito obrigado. Tenha um bom dia.
Obrigado.
No escritório do Dr. Cason
analisamos as respostas dos indivíduos.
Essa pessoa em particular. Eu estava preocupado com isso.
Muitos pensamentos suicidas, reações exageradas.
Fatores desse tipo podem não ser bons em um experimento
em que você quer tentar impedir
- a ocorrência de trauma. - Certo.
Essas pessoas, no entanto, e há muitas delas, são mais resilientes.
Eu ficaria mais à vontade com essas pessoas
porque a capacidade delas de se recuperar de situações difíceis
pode torná-las menos suscetíveis a um trauma.
Finalmente, depois de consultar dois psicólogos
e um conselho de ética da universidade
era hora de colocar nosso plano em ação.
Um dia antes do experimento Los Angeles, Califórnia
Estação Remota de Mudança de Via
Aqui vamos criar fisicamente o dilema do bonde na vida real.
Não com um bonde, mas com um trem.
Os indivíduos vão se inscrever aqui para o teste falso, que nunca acontecerá.
Vai ser um dia quente para eles.
Enquanto esperam o teste começar, vamos convidá-los a aguardar
nesta estação remota de alteração de via com ar-condicionado.
No interior, encontrarão um gentil operador
supostamente um funcionário da Empresa Ferroviária da Califórnia.
A Empresa Ferroviária da Califórnia é real.
Realmente falsa.
Inventamos essa organização governamental
para convencer os indivíduos de que tudo aqui é real
incluindo esses monitores supostamente mostrando filmagem ao vivo
de trens reais em diferentes trilhos por todo o estado da Califórnia.
Enquanto o participante espera nessa sala
aprenderá como o operador muda as vias
usando uma alavanca para, remotamente, trocar o trem de uma via para outra.
Eles verão isso acontecer.
Nós controlamos o vídeo nessas telas
de outra sala de controle escondida.
Em determinado momento
o operador deixará o indivíduo sozinho na estação de controle.
E, nessa hora, ocorrerá uma crise.
Um trem virá acelerando pelos trilhos
e os trabalhadores estarão em ambas as vias.
Cinco em uma e um trabalhador ao telefone na outra.
Não há ninguém por perto a que possam avisar
que tenha algum tipo de controle ou autoridade.
A decisão de alterar o trem depende apenas do indivíduo.
Sentirão que as ações deles têm consequências reais.
Cinco pessoas vão morrer...
ou apenas uma?
DEMONSTRAÇÃO O DILEMA DO BONDE
Nosso primeiro participante está quase chegando
então é hora de me preparar.
Dr. Cason, como se sente?
- Bem. - Minha hipótese
é que vamos ver as pessoas, quando ouvirem o primeiro aviso
deixarem imediatamente a estação sem querer voltar.
A outra opção, é claro, seria de paralisia
quando não fazem nada, porque não sabem o que fazer.
Nesse caso, queremos saber o que pensaram.
Vai ser interessante ver. Isso nunca foi feito antes.
Tudo bem, aqui vamos nós.
Nosso primeiro indivíduo é Elsa.
Você quer ficar aqui na sombra?
- Oi, sou Elsa. Prazer em conhecê-la. - Prazer em conhecê-la, Elsa.
Todas as pessoas que ela encontra são atores
e todas as nossas câmeras estão ocultas
para que ela não saiba que está sendo observada.
Sim, muito obrigado. E meu telefone, se puder.
Obrigado.
Informamos que a tecnologia que estão prestes a ver é privada.
Isso nos deu uma desculpa para recolher os telefones
para que não pudessem pedir ajuda durante a crise iminente.
- Obrigada por ter vindo. - Obrigado.
O que fazemos aqui é, a Empresa Ferroviária da Califórnia
está desenvolvendo trens de alta velocidade.
E queremos que o público venha e nos dê opiniões
sobre o conforto, a decoração, todos esses detalhes.
Hum, droga. Estão um pouco atrasados com o último.
- Está tudo bem. - Vai demorar mais uns 15...
- Sem problemas. - ou 20 minutos.
Sabe o quê? Tenho uma ideia.
Agora, Elsa acredita que tem que esperar 20 minutos.
- Sim? Nossa atriz finge pedir permissão
para que ela espere dentro da estação.
Então, na verdade, isso não faz parte.
É uma estação remota de mudança de via.
Mas, como vai demorar um pouco e tem ar-condicionado lá dentro
eu falei com Eddie e ele disse
que você poderia esperar lá dentro...
- e observar... - Tudo bem.
- Ok, legal. - o que eles fazem ali.
Eddie, essa é Elsa.
- Como vai, Elsa? - Bem, e você?
Bem, entre, sente-se.
Então, o que a traz aqui?
- O grupo de teste. - Grupo de teste.
Sim, a ferrovia de alta velocidade. A ferrovia de luxo.
O que temos aqui é uma estação remota de mudança de via.
Todas essas câmeras transmitem ao vivo.
Há muitos trabalhos de construção acontecendo aqui.
Vamos colocar cascalho novo aqui, novos trilhos aqui...
Contratamos um ator que trabalhou por 20 anos em ferrovias.
Pode imaginar se tivéssemos um ator que não entendesse de trens?
Ele oferece algo chamado de validade aparente.
Você pode olhar para ele e pensar "Ah, esse cara é real".
Meu trabalho aqui é cuidar de toda a mudança nessas duas vias.
Por isso, é preciso ter alguém aqui o tempo todo.
- Outra coisa sobre isso... Atenção, trem se aproximando.
Provavelmente é uma unidade de trabalho que está chegando.
Vamos desviá-la para a via dois.
Então um trem está chegando.
Assim ela pode ver como funciona a mudança.
Por que você não experimenta? Vá em frente e puxe a alavanca.
- Puxe para baixo. - Agora?
Isso, vá em frente. Ótimo.
Está indo muito mais rápido do que pensa.
Tudo bem, ele vai passar para a via número dois.
Bem, agora você é um "switchman".
Agora que o último vagão passou do ponto de mudança
volte a posição para a via um.
- Ok. - Foi meio assustador.
Eu pensei "meu Deus, preciso virar".
Bem, espere só.
O bom é que está de volta na via um
e isso significa que o próximo trem passará pela via um.
Elsa agora entende exatamente para onde vão os trens
Via um para a esquerda, via dois para a direita.
Era hora de forçá-la a tomar uma decisão muito difícil.
Espere.
- Oh, preciso atender. - Claro, sem problemas.
Faça-me um favor.
- Espere aqui. - Ok.
- É preciso ter sempre alguém aqui. - Ok, sem problemas.
Eu só vou sair e cuidar disso.
- Ok, sem problemas. - Volto em um segundo.
Veja os olhos dela. Ela está preocupada.
Um pouco preocupada, como "o quê?!"
Nós demos a Elsa alguns minutos
para se acostumar com o ambiente.
Em seguida, iniciamos a reprodução da nossa filmagem.
Aí vêm os trabalhadores.
Atenção, objeto nos trilhos.
Sim, ela acabou de notá-los.
Atenção, objeto nos trilhos.
Ela está olhando dentro da bolsa para encontrar...
Nenhum telefone?
Atenção, objeto nos trilhos.
Acho que o aviso é muito importante.
Se você estiver lá, precisa fazer alguma coisa.
Atenção, objeto nos trilhos.
Ok, o trem está vindo.
Atenção, trem se aproximando.
Aí está o aviso de "trem se aproximando".
Atenção, objeto nos trilhos.
Não acho que... ah, aí vai ela.
Atenção, trem se aproximando.
- Há um trem se aproximando. - O quê?
Eu queria avisar que há um trem se aproximando.
- Oh, meu Deus, tudo bem. - Você diz a ele?
Sim, vou procurá-lo agora mesmo.
Mas o operador não voltará.
O peso total dessa crise está sobre a Elsa.
Atenção, trem se aproximando.
Atenção, objeto nos trilhos.
- Atenção, trem se aproximando. - Não posso acreditar.
Atenção, objeto nos trilhos.
Atenção, trem se aproximando.
Atenção, objeto nos trilhos.
Atenção, trem se aproximando.
Atenção, objeto nos trilhos.
Fim do teste. Todos em segurança.
Não queríamos que os participantes pensassem
que havia alguém ferido.
Então, mostramos essa tela com "Todos em segurança"
antes que o trem pudesse atingir alguém.
- Elsa. - Eu sou Michael.
- Oi. - E esse é Greg.
- Isso tudo foi um experimento. - OK.
Podemos entrar? Queremos fazer algumas perguntas.
Sim, claro. Fiz algo de errado?
- De modo nenhum. - Como está se sentindo?
Apenas assustada.
- Sente-se. - Assustada?
- Sim. - Ninguém estava em perigo.
Esse é um experimento psicológico
sobre como as pessoas se comportam quando precisam tomar decisões.
- Oh, está bem. - Conte-me como você se sentiu.
Senti a pressão. "Meu Deus, essas pessoas vão morrer. "
E tive que tomar uma decisão muito rápida e segura.
Imediatamente, nesse exato segundo.
As vidas deles estavam nas minhas mãos.
Preciso mudar para a via dois.
O que motivou sua decisão de mudar?
Eu podia salvar mais vidas.
Não sabia se era a decisão correta.
Quer dizer, uma vida é uma vida, certo?
Quando confrontada com duas escolhas terríveis
ao menos uma pessoa foi capaz
de tomar ação deliberada para sacrificar um e salvar cinco.
Mas queríamos ver se a reação da Elsa era típica.
- Precisa do meu telefone? - Sim, por favor.
Você estaria interessado no transporte de alta velocidade?
Sim, qualquer coisa que...
Acabei de receber uma mensagem. Sinto muito.
Por que você não olha lá dentro e vê os trens correndo?
É muito melhor aqui dentro do que lá fora.
- Quando comecei, costumava ficar no sol. - O quê?
Sabe quando passa o próximo? Ah, tem um vindo ali.
Ele tem um bom olho.
Atenção, trem se aproximando.
Tal como aconteceu com Elsa, cada participante recebeu uma lição
sobre como mudar as vias.
Que tal se você fizer a mudança?
- Bem aqui? - Sim.
Continue.
- Como se sente? - Empolgado... nervoso.
Um segundo.
Preciso verificar isso. Espere um instante.
- Alguém precisa ficar aqui o tempo todo. - Sim, entendi, estou aqui.
Alô?
Breaker, um nove, entendido, confirme.
Ele está entendendo o poder de estar ali.
Atenção, objeto nos trilhos.
Aí vem o teste.
Atenção, objeto nos trilhos.
Atenção, trem se aproximando.
Ela não está se movendo.
- Atenção, trem se aproximando. - Olhe as sobrancelhas dele.
Os olhos vão de um lado para o outro.
Trem se aproximando.
- Ela está preocupada. - Sim.
Trem se aproximando.
Não sei o que eu faria nessa situação.
Trem se aproximando.
Vemos aqui uma espécie de pose estática.
Paralisia diante do perigo é uma reação muito comum.
Atenção, objeto nos trilhos.
Atenção, trem se aproximando.
Objeto nos trilhos.
Mesmo com o trem quase lá
alguns ainda procuram por outros para assumir o controle.
Vou tentar encontrá-lo. OK.
Atenção, trem...
Ela está cantando para se acalmar.
Objeto nos trilhos. Atenção.
- Trem se aproximando. - Ela não se mexe.
Meu Deus! Ela vai mudar?
Trem se aproximando. Atenção, objeto nos trilhos.
Atenção.
Fim do teste. Todos estão em segurança.
- O quê? - Tudo bem, vamos.
Nenhum desses participantes puxou a alavanca.
Hora de descobrir o porquê.
Olá, J.R.
- Ah, meu Deus! - Como vai você?
- Meu nome é Michael. - J.R.
Tudo o que acabou de acontecer foi um experimento.
- Isso foi um experimento. - Ah, meu Deus!
O que sentiu enquanto assistia?
Aterrorizado! Eu... eu só...
Eu me senti um pouca ansiosa quando vi o trem vindo.
"Ah, meu Deus!"
- Seu coração está acelerado? - Sim, um pouco.
O que passou pela sua mente
quando ouviu o aviso de que um trem se aproximava?
Eu pensei em mudar a via, mas pensar e fazer são coisas diferentes.
Eu meio que suspendi minha responsabilidade.
Não sabia o que fazer, então pensei
"É melhor não mexer, porque não sei se posso estragar alguma coisa".
Assumi que haveria...
algum desses cinco caras olharia para trás.
E sairiam do caminho, ou o trem já estava planejando parar.
Acho que constroem esses trens com algum tipo de sensor.
"O trem provavelmente tinha sensores".
"Os trabalhadores teriam notado".
"Eu não queria mexer no equipamento".
Essas são todas formas de atribuição
quando um indivíduo assume que outros
são responsáveis por agir ou já o fizeram.
- Havia pessoas nas duas vias. - Certo!
E simplesmente não sabia quem deveria viver e quem deveria morrer.
Mudo ou não mudo?
De qualquer maneira, alguém vai se machucar.
Não queria ter esse poder.
Eu diria que foi um teste e tanto.
É um teste e tanto.
Até o momento, um sujeito mudou a via e cinco não mudaram.
Mas ainda não terminamos. Esse é o Cory.
- Aqui, sente-se - Muito obrigado.
Isso é legal.
Esse módulo se interligará com o país inteiro, se quisermos.
Mas, agora, estamos vendo apenas a via um à esquerda
e a via dois ali.
Estão a muitos quilômetros de distância.
- Sim - Mas a transmissão é ao vivo.
Observando toda a área do alto.
Sim. Deixe-me ver o que é isso.
- Ok, já volto. - Ok, entendi.
Ele permanece interessado.
Aí vem os trabalhadores.
Ah, não.
Atenção, objeto nos trilhos.
Uh, sim.
Ele percebe que existe um problema em potencial.
Acho que ele vai sair.
Atenção, trem se aproximando.
Um trem está vindo?
Hum, ok.
Atenção, objeto nos trilhos.
Atenção, trem se aproximando.
Ele percebe que não há ninguém lá, é urgente.
- Ok, então isso precisa... - Atenção, objeto nos trilhos.
Ele está ensaiando o que fazer.
-Atenção, trem se aproximando. - Via dois.
Eles não sabem?
Atenção, trem se aproximando.
- Eu sei. Deveriam ver isso. - Atenção, objeto nos trilhos.
Atenção, trem se aproximando.
Atenção, objeto nos trilhos.
- Atenção, objeto nos trilhos. - Meu Deus.
- Fim do teste. - Ok, bom.
Todos estão em segurança.
- Olá? - Oi, Cory, meu nome é Michael.
Quase aconteceu... um acidente, aparentemente.
Cory, tudo o que aconteceu foi apenas um experimento.
- Ninguém estava em perigo. - Certo.
Esse é apenas um vídeo que filmamos antes.
Este é um experimento de psicologia que analisa o comportamento...
- Ok, sim. - das pessoas em várias circunstâncias.
Então, diga-em como você se sentiu.
- Terror, principalmente. - Terror.
E a responsabilidade, porque eu estava no leme.
E horrorizado por ter que tomar uma decisão
entre, cinco pessoas em comparação com uma.
Foi muito assustador, para dizer o mínimo.
- Foi assustador. - Isso.
O que passava pela sua mente enquanto o trem estava vindo?
Principalmente, avisá-los.
O que está acontecendo agora?
Você não quer ter que escolher entre as pessoas.
Certo.
E isso foi muito difícil.
Entre seis famílias ou uma família?
Foi, como... se tudo dependesse de mim.
Achei interessante como você teve tanta presença de espírito.
Procurar ajuda e tomar uma decisão.
Aquela que todos, quando perguntados em uma pesquisa
dizem que gostariam de ter coragem para tomar.
Foi impressionante, Cory.
Obrigado.
Sabe, acho que seria bom se você conhecesse
algumas das pessoas que participaram para que você possa ver...
Sim, vamos fazer isso, vamos lá fora...
- conhecer os atores. - Ótimo.
Cory nos mostrou a importância da entrevista de conclusão
nessa situação.
O encontro com os atores, o que todos os participantes fizeram
reforçou que isso não era real.
Estou tão feliz que era apenas uma simulação.
Então, Greg, dilema do bonde.
Comecei pensando que iríamos descobrir
algumas verdades sobre a natureza humana.
No entanto, o que realmente vimos
é que você aprende muito sobre o indivíduo.
Todos tiveram alguma explicação para o comportamento.
- Sim. - Cada um foi diferente.
Cada pessoa contou uma história para si mesma
sobre o que estava acontecendo, de acordo com os fatos
e a análise do que estava acontecendo naquele momento.
Mas, também, baseado na própria vivência e experiência.
Totalmente, algumas pessoas ficaram paralisadas
percebendo que algo estava errado e não estavam preparadas.
J.R. foi um excelente exemplo.
Ele avaliou tudo, mas em algum momento apenas disse:
"Não sei o que fazer".
Outros estavam prontos para dizer:
"Isso não tem nada a ver comigo. A culpa é da tecnologia.
Alguém vai cuidar disso".
Enquanto que outros como Cory, como Elsa, disseram:
"Não, preciso assumir o controle".
Eles ainda tiveram alguns dos mesmos pensamentos
mas acho que perceberam
que se não fizessem algo, mais pessoas ficariam feridas.
Nenhum deles realmente queria fazer alguma coisa.
Ambos se sentiram obrigados a fazer alguma coisa
porque tinham que salvar vidas.
Então valeu a pena fazer o experimento do bonde?
Eu acho que valeu muito.
Alguns dos participantes, se não todos eles
aprenderam sobre o comportamento humano.
Embora tenha sido uma experiência difícil
Elsa aprendeu a força interior que tem
e acho que vimos isso com Cory também.
Todos os participantes sentiram que contribuíram com algo.
E perceberam o valor do que acabou de acontecer.
- Sim. - Não apenas nós.
Desde então, temos acompanhado os participantes e estão todos bem.
Fico contente que minimizamos o risco
evitando a seleção de indivíduos vulneráveis
entrevistando os participantes ao final e fornecendo aconselhamento no local
porque isso me deu confiança
que poderíamos explorar esta faceta da psicologia humana de forma ética.
Aprendemos que existe uma diferença radical
entre o que as pessoas pensam que fariam
e o que eles realmente fazem
quando enfrentam um difícil dilema moral.
Em vez de salvar cinco vidas
a maioria dos nossos participantes não fez nada.
Mas é errado ficar paralisado?
As pessoas devem se sentir mal por serem incapazes de agir?
Bem, aqui é que está.
Ficar paralisado diante de uma ameaça é um comportamento
que pode ser encontrado em todo o reino animal
mas somos os únicos animais que podemos estudar como agimos
ensinar sobre como deveríamos agir
e programar máquinas para fazer apenas isso.
Para avançar no nosso estudo da mente
precisamos afetar a mente
e isso não é algo que devemos subestimar.
Entender quem somos ao testar limites envolve um risco
e como aprendemos
esse risco deve sempre ser equilibrado em relação ao bem maior.
E, como sempre, obrigado por assistir.
Nesta temporada, em Mind Field
Você vai ser um rato de laboratório em um labirinto.
Ninguém fez isso antes.
É um trabalho bastante pioneiro.
No que me diz respeito, você já é um co-autor
em nosso artigo científico.
- Pronto? - Pronto.
Estou aqui na Amazônia, onde vou beber
uma antiga droga psicodélica: ayahuasca.
Não se preocupe, este é um carro autônomo.
Nos conectaremos por Bluetooth com esse robô vivo.
Agora para a esquerda.
Não percebi que você era uma pessoa real.
Vou te arrebentar se não nos der algumas respostas.
Vou fazer um teste de detecção de mentiras
A tortura chinesa da água nem é chinesa.
Cinco pessoas morrerão ou apenas uma?
Essa é a primeira vez para nós. Vamos fazer isso de verdade.
Bem-vindos ao Mind Field.
Obrigado por assistir!