Logo BrazilLAB Logo BrazilLAB
Europa Saúde Tecnologia Inovação Escrito por Julia Shnatz

Em resumo

O Serviço Nacional de Saúde (NHS - Natinal Health Service) do Reino Unido firmou parceria com a empresa de tecnologia de Inteligência Artificial e subsidiária do Google, DeepMind, para desenvolver um aplicativo para smartphone que permita que clínicos detectem sinais iniciais de insuficiência renal utilizando um sistema de alerta instantâneo. O aplicativo, chamado Strams, direciona clínicos a pacientes que estão em risco de, ou que já desenvolveram, uma condição grave chamada lesão aguda dos rins (AKI - acute kidney injury).

Apesar de ter sido recebida com "grande entusiasmo" como uma ferramenta de gestão de AKI, a colaboração sofreu de falta de clareza e abertura com relação ao modelo de negócios da DeepMind e seus interesses, especialmente com relação à proteção de dados. [1]

O Desafio

Clínicos no NHS não possuem as ferramentas para analisar cada resultado de teste médico instantaneamente, determinar o tratamento correto para um paciente, e garantir que o caso de cada paciente que precisa de tratamento complexo ou urgente seja escalado para a unidade especialista imediatamente. Uma pesquisa publicada no jornal Surgery mostrou que metade dos pacientes de hospitais do NHS não recebe o tratamento de que precisam rápido o suficiente, geralmente por má comunicação, em particular quando uma equipe de médicos e enfermeiros passa o caso para outra durante mudanças de turno. [2]

Além disso, a equipe do NHS é incapaz de utilizar as ferramentas mais recentes que poderia ajudá-la a lidar com esses desafios. "Todo mundo tem um smartphone e nós todos usamos aplicativos o tempo todo," diz Mustafa Suleyman, cofundador e chefe de IA aplicada na DeepMind. "Mas as pessoas que fazem um trabalho incrível salvando vidas todos os dias são prejudicadas por utilizar computadores de mesa e software projetados muito tempo atrás". [2]

Isto pode se provar fatal quando uma condição como a AKI não é reconhecida a tempo. AKI é dano renal de ocorrência repentina, geralmente como resultado de outra doença ou lesão grave. Quando o rim para de funcionar de forma apropriada, os produtos residuais tóxicos do corpo podem se acumular no sangue e prejudicar outros órgãos. No Reino Unido, a AKI afeta um em seis pacientes de internação, e pode resultar em sobrecarga de fluidos ou insuficiência respiratória e é, portanto, fortemente associada a desfechos adversos, incluindo morte, hospitalização prolongada, exigência de teoria de substituição renal e uma necessidade de tratamento intensivo ou de elevada dependência. [3]

Ela também está associada a um risco aumentado de doença renal crônica. AKI está relacionada a 40.000 mortes por ano no Reino Unido, um quarto das quais são evitáveis, de acordo com as estimativas do NHS - caso os clínicos fossem capazes de intervir mais cedo e, portanto, de forma mais eficaz. A AKI pode ser difícil de detectar e tratar rapidamente, e também é cara: custa ao NHS mais de GBO1 bilhão - mais do que o custo anual de tratamento de câncer de mama. [4]

A Iniciativa

Para abordar essa "falha em resgatar", a Royal Free London NHS Foundation Trust se uniu à DeepMind, uma subsidiária do Google com base no Reino Unido, e firmou uma parceria de cinco anos, em novembro de 2016. [5] Este contrato significou que especialistas em saúde e tecnologia colaboraram e começaram a desenvolver o aplicativo Streams. Ele tem sido testado por clínicos no Royal Free Hospital desde janeiro de 2017. [6] O Streams é o primeiro grande projeto de saúde da DeepMind e busca primariamente identificar pessoas que possam estar em risco de AKI e auxiliar em seu tratamento. Entretanto, "o Trust forneceu dados pessoais de cerca de 1,6 milhões de pacientes [mas eles] não foram informados de forma adequada de que seus dados seriam utilizados como parte do teste". [7]

O princípio do projeto do aplicativo é simples: como com um alerta de últimas notícias em um telefone móvel, a tecnologia notifica os clínicos relevantes assim que resultados de teste mostrarem que um paciente está em risco de ficar gravemente doente. Ele fornece em um lugar todas as informações necessárias para tomar a ação apropriada. [8] Encontrar uma AKI precoce pode significar que ela pode ser tratada mais cedo, e então os danos aos rins e outros sistemas de órgãos é minimizado. [6]

O Streams age analisando informações de pacientes, tais como detalhes sobre função sanguínea e hepática, e então envia um alerta para o smartphone de um clínico para informá-lo de que um paciente precisa de sua atenção. [6] Uma equipe de resposta clínica composta de nefrologistas e enfermeiros de tratamento crítico responde a esses alertas de AKI reavaliando pacientes individuais e administrando intervenções, de acordo com as diretrizes de prática clínica existentes. [3]

O Impacto Público

A capacidade do Streams de armazenar todas as informações de pacientes em um lugar - acessível com um smartphone - mostrou reduzir o fardo administrativo sobre os funcionários, significando que eles podem dedicar mais tempo a entregar tratamento direto ao paciente. "Antes da implementação, esses resultados eram normalmente revisados em lote por não especialistas ao fim do dia, e podiam ser vistos apenas diversas horas após os resultados terem ficado disponíveis. Os clínicos podiam optar por revisar os resultados mais cedo, mas esse processo dependia de acessar repetidamente os sistemas de resultados, uma vez que os clínicos não sabiam quando os resultados estavam prontos... Entretanto, esse processo era incômodo e possivelmente falível". [3] Com o aplicativo Streams, o trabalho de rotina de ler digitalizações, por exemplo, é realizado pelo "algoritmo de AKI do NHS para coletar rotineiramente dados de creatinina sérica em pacientes em internação hospitalar" em vez de por um profissional da saúde. [3]

Em um dia normal no Royal Free, o Streams analisou 2,211 testes sanguíneos, detectou 66 alterações de função renal e, finalmente, emitiu 23 alertas de AKI, dos quais 11 casos exigiam ação imediata. Ao libertar os médicos da papelada, o Trust acredita que pode entregar mais de meio milhão de horas extra de tratamento direto. [9] "Os alertas instantâneos sobre alguns de nossos pacientes mais vulneráveis significam que podemos entregar o tratamento certo aos pacientes certos muito mais rapidamente," de acordo com Sarah Stanley, uma enfermeira no Royal Free, e um dos clínicos que utilizam o Streams diariamente. Em vez de precisar localizar um computador de mesa funcional e procurar pelo histórico eletrônico do paciente para encontrar todas as informações de que precisa para decidir se o paciente sofreu uma AKI, as informações são entregues diretamente a ela. "É uma incrível economia de tempo. Você economiza uma ou duas horas ao dia só filtrando as informações."[6]

O aplicativo também ajuda os clínicos a comunicar-se com pacientes de forma mais eficaz. Uma vez que a maior parte dos dados de pacientes envolvidos em assistência médica é desestruturada, ou seja, composta por diferentes resultados de testes, digitalizações, anotações de consulta e detalhes de consultas de acompanhamento, isto significa que os profissionais da saúde possuem muitos dados que precisam ser agrupados e transformados em informações utilizáveis. [9] Os clínicos utilizam o aplicativo para explicar aos pacientes as mudanças em sua saúde renal. Uma vez que o Streams mostra mudanças por meio de gráficos e linhas de tendência, os pacientes podem ver claramente se determinados marcadores de saúde renal estão apresentando picos ou quedas, e o quanto, tornando o progresso em sua condição mais fácil de entender. [6]

Apesar desses ganhos, o NHS recebeu grandes críticas sobre sua manipulação de dados de pacientes: os detalhes de 1,6 milhões de pessoas foram disponibilizados para a DeepMind - incluindo grandes quantidades de dados sobre e além do que se relaciona a AKI. O Escritório do Comissário de Informações (ICO - Information Commissioner's Office) começou uma investigação sobre a colaboração entre o NHS e a DeepMind. O ICO descobriu que os históricos de 1,6 milhões de pacientes estavam sendo utilizados no piloto do Streams sem que eles fossem notificados de forma adequada. [9] De acordo com o ICO, o Trust não foi tão transparente como deveria ter sido, e ele foi instruído a tomar um número de medidas para cumprir com o Ato de Proteção de Dados, tais como fornecer um formulário de exclusão para pacientes do website do Trust.

Entretanto, foi permitido que o projeto de pesquisa continuasse, e planeja-se que o Streams agora seja estendido para além de AKI para ajudar a tratar pacientes com outras condições graves, incluindo sepse e insuficiência de órgãos. [10] Em uma declaração, o Trust afirmou que o aplicativo será utilizado como uma ferramenta de suporte de diagnóstico para uma gama muito mais ampla de doenças, alertando os médicos de forma precoce sobre pacientes que estão em risco de se tornarem gravemente doentes. "O Streams será estendido além de AKI para ajudar a tratar pacientes com outras condições graves, incluindo sepse e insuficiência de órgãos". [10]

Escrito por Julia Schnatz

O que funcionou
e o que não funcionou

Todos os casos no Observatório de Impacto Público do CPI foram avaliados quanto a desempenho com relação aos elementos dos Fundamentos de Impacto Público do CPI.

Legitimidade

Engajamento dos Stakeholders Razoável

A DeepMind trabalhou em proximidade com clínicos do Royal Free "para poder entender como a tecnologia podia se encaixar em suas vidas diárias". [11] O nefrologista consultor e diretor médico associado de segurança de pacientes no Royal Free, Dr. Chris Laing, que ajudou a projetar o aplicativo e supervisionou os dois pilotos iniciais no hospital, disse: "utilizar o Streams significou que eu fui capaz de revisar resultados de exames de sangue para pacientes em risco de AKI segundos depois de eles ficarem disponíveis. Este sistema de alertas diretos e a capacidade de priorizar pacientes simplesmente não era possível antes. Utilizando o Streams, eu intervi mais cedo e fui capaz de melhorar o tratamento de mais de metade dos pacientes que o Streams identificou em nossos estudos piloto." [12]

Mesmo o Streams tendo sido bem recebido por médicos e enfermeiros, seu desenvolvimento foi marcado por uma falha em abordar a privacidade dos pacientes, e uma falta de discussões e autorizações ex ante com os reguladores relevantes, tais como o ICO.[1] "Não há dúvidas sobre o imenso potencial que o uso criativo de dados pode ter no tratamento de pacientes e melhorias clínicas, mas o preço da inovação não precisa ser a erosão de direitos de privacidade fundamentais," disse Elizabeth Denham, a comissária de informações.[7] Os pacientes não foram informados sobre o fato de que seus históricos médicos seriam transferidos para os servidores do Google e, portanto, não consentiram explicitamente. "Pedimos que o Trust se comprometa a fazer mudanças que abordem essas deficiências e sua cooperação é bem-vinda. O Ato de Proteção de Dados não é uma barreira à inovação, mas precisa ser considerado sempre que dados de pessoas estejam sendo utilizados," continuou Denham. Para abordar isso, a DeepMind confirmou que estava construindo uma infraestrutura de auditoria que "dará aos nossos parceiros visibilidade em tempo real sobre como estamos processando dados". [4]

Compromisso Político Ótimo

Com base no fato de que a identificação imediata e confiável de casos de AKI para clínicos pode acionar tratamento melhorado, o NHS England emitiu um alerta de segurança de paciente nacional sobre "padronização de identificação precoce de AKI". Este alerta ordenava a instalação de um novo algoritmo de detecção em cada hospital do NHS, de forma que potenciais incidentes de AKI pudessem ser sinalizados para clínicos. O programa nacional "Think Kidneys" [Pense Rins] do NHS England forneceu exemplos de melhores práticas sobre como os alertas de AKI podem ser implantados clinicamente.

Entretanto, simplesmente alertar um clínico sobre a presença de um possível incidente de AKI não é necessariamente suficiente para melhorar os desfechos. Um conjunto de dados clínicos muito mais rico é exigido para ajudar os clínicos a priorizar, diagnosticar e tratar os pacientes. As diretrizes do Instituto Nacional de Excelência em Saúde e Tratamento (NICE - National Institute for Health and Care Excellence) do Reino Unido sobre o tratamento de AKI sugerem que pacientes com AKI mais grave podem se beneficiar de entrega de tratamento por clínicos adequadamente especializados, por exemplo, como parte de um serviço de nefrologia de "referência rápida". [3]

O governo do Reino Unido também "está interessado em se posicionar como um apoiador de IA, fornecendo fundos públicos para o setor e, em seu informativo Industrial Strategy, identificando IA e dados como um de quatro chamados 'Grandes Desafios', onde acredita que o Reino Unido pode 'liderar o mundo por anos futuros' - incluindo especificamente mencionando nominalmente a DeepMind como uma de poucas empresas de IA nacionais de ponta das quais o país deve se orgulhar". [13] Com este apoio, em julho de 2015, clínicos dos hospitais do Trust abordaram a DeepMind para discutir o desenvolvimento de software de IA utilizando os dados de pacientes o Trust. [1]

A tecnologia, que é rodada por meio de um aplicativo para smartphone, também possui o suporte de Lorde Darzi, um cirurgião e ex ministro de saúde do governo Blair, que é o diretor do Instituto de Inovação de Saúde Global no Imperial College London. "Inovação é a única solução que temos para um NHS sustentável, tanto economicamente quanto para superar os desafios e demandas sobre ele," Darzi declarou ao The Guardian em uma prévia da tecnologia. [2]

Confiança Pública Razoável

O projeto começou a atrair interesse público significativo em maio de 2016, quando jornalistas investigativos revelaram o escopo do contrato de compartilhamento de dados entre a DeepMind e o Trust, por meio do qual 1,6 milhões de históricos de saúde de pacientes identificáveis foram transferidos para os servidores do Google. Pacientes cujos dados foram transferidos não foram consultados para obter seu consentimento nem informados sobre a transferência de dados. [13]

Isto levou a uma investigação por Dama Fiona Caldicott, a guardiã de dados nacional, que concluiu que "o acordo teve uma base legal inapropriada", [14] e pelo ICO, que levantou um número de preocupações. Eles concluíram que o contrato entre o Trust e a DeepMind foi insuficientemente robusto, que o Trust não havia conduzido uma avaliação de impacto de privacidade no início do projeto, e que não havia feito o suficiente para informar aos pacientes sobre esses arranjos. [15] Além desta publicidade adversa, o grupo de privacidade medConfidential afirmou que as informações haviam sido obtidas sem o consentimento dos pacientes, e que eram excessivas, pois os históricos cobriam informações além daquelas de função renal. Após essas manchetes negativas, o Trust se defendeu contra essas afirmações declarando que os dados foram utilizados para aprimorar o tratamento direto ao paciente, para o qual nenhum consentimento de paciente é exigido. Esta defesa não foi aceita pelo ICO. [12]

De sua parte, a DeepMind prometeu ser mais aberta com os pacientes sobre seus planos de saúde e realizar fóruns de envolvimento de pacientes regulares. [16] Em uma declaração pública, declarou que "a divisão de IA havia se concentrado em construir ferramentas para clínicos em vez de pensar sobre como o projeto deveria ser moldado pelas necessidades dos pacientes e do público". [4] Em uma revisão independente, a DeepMind confessou uma "falta de trabalho em envolvimento público, particularmente com relação a conexões entre a DeepMind e o Google e a percepção pública de que dados processados pela DeepMind poderiam ser compartilhados com o Google". [17] Diversos pesquisadores também identificaram inadequações na arquitetura do acordo entre o NHS e a DeepMind, em sua comunicação pública, e no processo de supervisão do setor público. [1]

Apesar desta controvérsia, a experiência dos pacientes tem sido muito positiva. Mais de 26 médicos e enfermeiros no Royal Free Hospital estão agora utilizando o Streams, e ele os está alertando para uma média de 11 pacientes em risco de AKI. [18] Uma paciente que teve o benefício do novo aplicativo foi Afia Ahmed, que sofreu complicações após o nascimento de sua filha por cesariana de emergência e desenvolveu sepse durante o parto, o que depois levou a AKI. Utilizando dados de seu exame de sangue, o aplicativo Streams detectou um problema com sua função renal e um alerta foi enviado a um médico especialista em rins. [19] O especialista em rins foi capaz de fornecer orientações para a equipe de obstetrícia sobre a condição de Afia e aconselhá-la a ajustar sua dosagem de antibióticos e seu tratamento de fluido intravenoso e suspender a utilização de analgésicos que poderiam causar esforço excessivo de seus rins. Afia continuou a ser monitorada por um especialista renal até que sua função renal se recuperou e ela recebeu alta. [18]

Política

Objetivos Claros Fraco

Quando a DeepMnd e o Royal Free London NHS Foundation Trust anunciaram sua parceria, Mustafa Suleyman afirmou que pretendiam "descobrir como podiam inovar conjuntamente com relação a alguns dos problemas mais complexos e difíceis do sistema de saúde". David Sloman, diretor do Trust, disse que isso permitiria que a organização "fizesse o que fundamentalmente cada um de nossos funcionários vêm para o trabalho fazer, que é salvar vidas e melhorar o tratamento". [1]

Entretanto, não há nenhum documento oficial do Trust que esboce de forma clara os objetivos da parceria, nem por que escolheram a DeepMind como parceiro. Um memorando de entendimento de janeiro de 2016 referenciava planos para que a DeepMind desenvolvesse novos sistemas para o Trust como parte de uma "parceria ampla e mutuamente benéfica ... para trabalhar em projetos genuinamente inovadores e transformacionais". Apresentações pela DeepMind continuaram sendo igualmente vagas, elaborando uma visão para um "NHS realmente digital", compreendendo "tratamento de pacientes massivamente melhorado, análises acionáveis, pesquisa avançada tanto no nível hospitalar quanto no nível populacional, e um ecossistema de inovação aberto". [1]

Nem a DeepMind nem o Trust fizeram referência ao uso de dados de pacientes antes de lançarem o aplicativo. O escopo da transferência de dados de pacientes do Royal Free para a DeepMind foi definido apenas após a investigação e relatório do ICO. [7]

Evidências Ótimo

Uma variedade de opções para detectar AKI foram inicialmente consideradas por clínicos líderes no NHS, incluindo o uso de IA. Entretanto, o projeto Streams eventualmente resultou em uma solução de software muito mais direta, utilizando um algoritmo existente do NHS para detecção precoce de AKI em vez de uma tecnologia de IA. "O programa nacional 'Think Kidneys' do NHS England National forneceu exemplos de melhores práticas sobre como os alertas de AKI podem ser implantados clinicamente."[3]

Uma fase piloto de 12 semanas começou no Royal Free em janeiro de 2017 e consistiu da observação da equipe de resposta, entrevistas com a equipe de resposta e melhorias na via de implementação. [3] Até 40 clínicos começaram a utilizar o Streams na primeira fase de lançamento, e a implementação foi então realizada gradualmente em todas as unidades do Trust. [9] Ele também será testado no St Mary's Hospital em Paddington.

Viabilidade Razoável

A implementação do Streams "no solo" no hospital foi tornada financeiramente viável por meio de financiamento do NHS. A DeepMind focou em garantir sua viabilidade técnica, mas a viabilidade geral do Streams foi gravemente prejudicada por considerações legais, especificamente as exigências do Ato de Proteção de Dados.

O aplicativo em si, de acordo com a Enfermeira Sarah Stanley, é "muito fácil de utilizar". Este foi um resultado dos esforços da DeepMind no projeto da interface de usuário, para a qual eles escrutinaram cuidadosamente e refinaram cada elemento dos fluxos de trabalho de clínicos. [6] "Nós queríamos entender, no máximo de detalhe possível, quais informações eles precisam ter em suas mãos e como podíamos apresentá-las de forma que fosse mais útil para eles em uma situação de tratamento urgente." disse o Dr. Dominic King, líder clínico do DeepMind Health. [11]

Conforme o projeto se desenrolava, entretanto, problemas de viabilidade surgiram em termos de preocupações legais que não haviam sido avaliadas de forma apropriada antes da implementação. [1] O ICO determinou que o processamento dos dados de 1,6 milhões de pacientes sem seu consentimento explícito não exigia processo para fins de tratamento direto, e então não cumpria com a lei de proteção de dados. "Também foram levantadas preocupações de que não foi feito esforço suficiente para garantir que os pacientes e o público estivessem cientes do projeto antes do processamento dos dados." [3] O relatório do ICO concluiu que "a colaboração havia sofrido de falta de clareza e abertura", adicionando que "se a DeepMind e o Royal Free tivessem tentado informar pacientes passados e presentes sobre os planos para seus dados, inicialmente e conforme evoluíam, quer por email ou por carta, muito dos prejuízos teriam sido mitigados". [1]

Ação

Gestão Bom

Simplesmente desenvolver um aplicativo para smartphone não leva, em última instância, a uma melhora na prática; na verdade, estruturas de gestão eficientes precisam estar em vigor para garantir que o Streams proporcione resultados melhorados tanto para pacientes quanto para clínicos. O Royal Free London NHS Foundation Trust em particular é responsável pela gestão da implementação de aplicativos. Junto com outros parceiros do NHS, eles desenvolveram diretrizes de práticas clínicas para o tratamento de AKI e o uso do aplicativo Streams. [3]

Em termos de mecanismos de gestão referentes a dados, entretanto, o ICO indicou claramente que houve alguns problemas no desenvolvimento do aplicativo Streams quando se tratou de confidencialidade do paciente. Entretanto, o Trust aceitou os achados do ICO referentes a esta falta de clareza e abertura, e realizou uma série de etapas corretivas para abordá-los. Estas incluem colocar em vigor um contrato muito mais forte com a DeepMind e fornecer mais informações no website do Royal Free sobre os acordos com a DeepMind. [15]

Sir David Sloman confirmou que um respeito pela confidencialidade do paciente era fundamental para a operação do Royal Free Hospital. A equipe de liderança sênior como um todo confirmou que haviam concluído seu treinamento de governança de informações de acordo com o ciclo de treinamento anual. Eles descreveram um número de etapas que o Trust havia realizado para melhorar a governança de informações, incluindo fazer um grande investimento nas defesas de cyber-segurança do hospital e convidar dois membros leigos para fazer parte do Grupo de Governança de Informações. [15] Junto como a DeepMind, eles também organizaram uma reunião para um painel de revisão independente de revisores externos.

Após a investigação e o relatório de conclusão do ICO ter sido publicado, o Trust colocou em vigor estruturas e processos para gerenciar seu uso de informações de paciente confidenciais, por exemplo, o Grupo de Governança de Informações, que se reúne trimestralmente para discutir problemas de confidencialidade e proteção de dados. O Royal Free agora possui um diretor de proteção de dados e um gerente de governança de informações para gerenciar problemas de confidencialidade e proteção de dados. [15] Recentemente, o NHS anunciou que irá fortalecer a anonimização de arquivos de pacientes para proteger ainda mais a privacidade dos pacientes. [20]

Medição Razoável

Até agora, nem a DeepMind nem o Trust publicaram dados sobre o efeito do Streams na saúde de pacientes e quanto tempo e dinheiro ele pode economizar. Após a fase piloto de 12 semanas, uma fase de avaliação de 18 semanas se iniciou, durante a qual dados de resultados foram coletados, analisados e interpretados. [3] Uma avaliação de serviço afirma que uma "análise de período está planejada para a metade da fase de avaliação", de quais desfechos serão utilizados para informar decisões futuras e estratégia referente ao desenvolvimento adicional do Streams. [3]

Alinhamento Razoável

As evidências de alinhamento entre os diferentes stakeholders são mistas. Enquanto o Trust, os clínicos e a DeepMind compartilhavam objetivos e interesses comuns na colaboração, sua interdependência causou alguns problemas, e a falta de alinhamento com reguladores causou problemas maiores.

O alinhamento de interesses entre o Trust e a DeepMind pareceu inicialmente ser forte com relação a trabalhar em direção a operações de assistência médica mais eficiente. Tanto a estratégia geral quanto os objetivos específicos da colaboração foram esclarecidos desde o início do desenvolvimento do Streams em um memorando de entendimento entre as duas partes. [14] Dito isto, problemas de alinhamento se desenvolveram conforme a parceria continuou. A DeepMind e o Trust são dependentes um do outro e o desenvolvimento não pode ocorrer sem progresso de ambos os parceiros. Esta interdependência causou alguns problemas. O Royal Free levantou frustrações de que não podem desenvolver nada adicional sem a DeepMind, quando talvez outra solução open source poderia permitir um desenvolvimento muito mais rápido e reativo. A DeepMind também levantou frustrações sobre o ritmo lento e as estruturas burocráticas do NHS e, assim, está pensando em reduzir a escala do desenvolvimento.

Com relação ao alinhamento de clínicos, o aplicativo em si foi coprojetado por especialistas tanto da DeepMind quanto do Trust para cumprir com necessidades específicas dos clínicos. Por exemplo, o modelo de smartphone escolhido como o dispositivo de teste para o Streams precisava ser precisamente do tamanho certo para os bolsos de aventais hospitalares, de forma que os usuários pudessem garantir que ele não cairia enquanto estavam fazendo seu trabalho na enfermaria. [6] Mustafa Suleyman disse que "mais ou menos três semanas depois de ter conhecido nossos primeiros enfermeiros ... nós tínhamos um protótipo funcional (não conectado a quaisquer dados) que enfermeiros e médicos poderiam apontar de verdade e dizer este botão está no lugar errado, esta cor é difícil de ler, esta hierarquia de menu meio que está na ordem errada". [21]

A falta de alinhamento com reguladores, que representavam os interesses dos pacientes do Trust, causou problemas significativos. O ICO criticou o acordo pelo qual a DeepMind havia recebido acesso a cinco anos de dados de pacientes do Royal Free Hospital, nenhum dos quais havia dado seu consentimento. O Trust afirmou que o consentimento não era exigido, uma vez que os dados foram utilizados para tratamento direto do paciente e ainda eram controlados pelo Trust. O ICO concluiu que "o Royal Free poderia fazer mais para trazer informações sobre o Streams (e informações sobre seu processamento, de forma mais geral) à atenção dos pacientes quando esses pacientes comparecerem ao Royal free pessoalmente. Por exemplo, o Royal Free poderia incluir um banner para estas informações nos terminais de registro eletrônico."[15]

APLICATIVO PARA SMARTPHONE DO NHS DA
INGLATERRA PARA IDENTIFICAR LESÃO AGUDA
DOS RINS (2016)

Panorama de resultados

Ótimo
Bom
Razoável
Fraco

Este estudo de caso foi originalmente publicado em inglês no "The Public Impact Observatory" do Centre for Public Impact (CPI).Outras publicações podem ser acessadas em: Centre for Public Impact.

Bibliografia

[1] Google DeepMind and healthcare in an age of algorithms, Julia Powles and Hal Hodson, Março de 2017, Health Technology (https://link.springer.com/content/pdf/10.1007%2Fs12553-017-0179-1.pdf).

[2] Smart care: how Google DeepMind is working with NHS hospitals, Sarah Boseley and Paul Lewis, 24 de fevereiro de 2016, The Guardian (https://www.theguardian.com/technology/2016/feb/24/smartphone-apps-google-deepmind-nhs-hospitals).

[3] Service evaluation of the implementation of a digitally-enabled care pathway for the recognition and management of acute kidney injury, A. Connell et al, Junho de 2017, F1000 Research (https://www.ncbi.nlm.nih.gov/pmc/articles/PMC5510018/).

[4] Streams in NHS hospitals, DeepMind.

(https://deepmind.com/applied/deepmind-health/working-partners/how-were-helping-today/).

[5] A systematic review to identify the factors that affect failure to rescue and escalation of care in surgery, M. Johnston et al, 2015, Surgery, Volume 157 Edição 4.

(https://www.sciencedirect.com/science/article/pii/S0039606014007132).

[6] DeepMind and the NHS: What it's really like to use Google's kidney health app, Jo Best, 10 de janeiro de 2018, ZDNet (https://www.zdnet.com/article/deepmind-and-the-nhs-what-its-really-like-to-use-googles-kidney-health-app/).

[7] Royal Free - Google DeepMind trial failed to comply with data protection law, 3 de julho de 2017, Escritório do Comissionador de Informações (https://ico.org.uk/about-the-ico/news-and-events/news-and-blogs/2017/07/royal-free-google-deepmind-trial-failed-to-comply-with-data-protection-law/).

[8] Our work with DeepMind, Royal Free London NHS Foundation Trust.

(https://www.royalfree.nhs.uk/patients-visitors/how-we-use-patient-information/our-work-with-deepmind/).

[9] Google's DeepMind and the NHS: A glimpse of what AI means for the future of healthcare, Jo Best, 4 de abril de 2017, ZDNet (https://www.zdnet.com/article/googles-deepmind-and-the-nhs-a-glimpse-of-what-ai-means-for-the-future-of-healthcare/).

[10] Google DeepMind and Royal Free in five-year deal, Ben Heather, 22 de novembro de 2016, digitalhealth (https://www.digitalhealth.net/2016/11/google-deepmind-and-royal-free-in-five-year-deal/).

[11] Google DeepMind’s Streams technology branded ‘phenomenal’, Hannah Crouch, 4 de dezembro de 2017, digitalhealth (https://www.digitalhealth.net/2017/12/google-deepmind-streams-royal-free/).

[12] Google's London AI powerhouse has set up a new healthcare division and acquired a medical app called Hark, Sam Shead, 25 de fevereiro de 2016, Business Insider.

(https://www.businessinsider.de/google-deepmind-sets-up-healthcare-team-acquires-harkand-builds-new-app-2016-2?r=UK&IR=T).

[13] UK Report warns DeepMind Health could gain 'excessive monopoly power', Natasha Lomas, 15 de junho de 2018, TechCrunch (https://techcrunch.com/2018/06/15/uk-report-wams-deepmind-health-could-gain-excessive-monopoly-power/).

[14] Google DeepMind 1.6m patient record deal 'inappropriate', Alex Hern, 16 de maio de 2017, The Guardian.

(https://www.theguardian.com/technologv/2017/mav/16/google-deepmind-16m-patient-record-deal-inappropriate-data-guardian-roval-free).

[15] Audit of the acute kidney injury detection system known as Streams, Linklaters LLP, 17 de maio de 2018, for Royal Free London NHS Foundation Trust (https://s3-eu-west-1.amazonaws.com/files.royalfree.nhs.uk/Reporting/Streams_Report.pdf).

[16] Google's DeepMind extends controversial Streams app, Jane Wakefield, 21 de junho de 2017, BBC News (https://www.bbc.com/news/technology-40352885).

[17] DeepMind Health Independent Review Panel Annual Report, Junho de 2018, DeepMind Health (https://www.google.com/url?.

sa=t&rct=j&q=&esrc=s&source=web&cd=1&ved=2ahUKEwiY56Xt57_cAhUIyIUKHR2WA3MQFjAAegQIABAC&url=https%3A%2F%2Fdeepmind.com%2Fdocuments%2F21‘.

[18] New app helping to improve patient care, 27 de fevereiro de 2017, Royal Free London NHS Foundation Trust (https://www.royalfree.nhs.uk/news-media/news/new-app-helping-to-improve-patient-care/).

[19] New mother receives pioneering kidney treatment after app detects life-threatening illness, Ross Lydall, 27 de fevereiro de 2017, Evening Standard (https://www.standard.co.uk/news/health/new-mother-receives-pioneering-kidney-treatment-after-app-detects-lifethreatening-illness-a3476936.html).

[20] UK NHS will anonymise private medical data for use in AI systems, Ellen Tannam, 2 de julho de 2018, siliconrepublic (https://www.siliconrepublic.com/enterprise/google-deepmind-nhs-report).

[21] Google DeepMind: How, why, and where it's working with the NHS, Sam Shead, 10 de julho de 2016, Business Insider (http://uk.businessinsider.com/google-deepmind-how-why-and-where-its-working-with-the-nhs-2016-7).