Saife: Towards a Lightweight Threat Modeling Approach to Support Machine Learning Application Development.

Página do item simplificado
dc.contributor.advisorZarpelão, Bruno Bogaz
dc.contributor.authorMessas, Gabriel Esteves
dc.contributor.bancaMenolli, André Luís Andrade
dc.contributor.bancaMeneguette, Rodolfo Ipolito
dc.coverage.extent75 p.
dc.coverage.spatialLondrina, Paraná
dc.date.accessioned2025-02-04T13:03:11Z
dc.date.available2025-02-04T13:03:11Z
dc.date.issued2024-12-13
dc.description.abstractWith the growing popularization of the Artificial Intelligence (AI) field, the development of systems that rely on, at least, one of its subareas has also experienced a great increase. The recent adoption of AI techniques in common systems - such as mobile apps and household appliances - requires a higher level of attention, in order to ensure their safety and proper operation. In this scenario, assuring the adequate functioning of these solutions culminates, in most cases, in ensuring the security of the application and its data throughout the software development life cycle. Software developers, however, often find security-related tasks challenging to learn and execute, and frequently put them aside. Additionally, currently available threat modeling frameworks are difficult to integrate into software development life cycles, which prioritize agility and automation over extensive analysis and documentation. This work, therefore, proposes sAIfe, a new threat modeling method for security analysis of Machine Learning (ML) applications under development. sAIfe provides prescriptive steps, with graphical elements and results that include lists with threats and ready-made remediation suggestions for the analyzed system. This approach aims at simplifying the risk assessment process for the programmer, unveiling possible weaknesses and suggesting respective solutions in a practical way. Still in this work, sAIfe is tested on a real-world ML application, revealing positive results, with many potential issues and mitigation options detected by the method, which are registered in the form of a case study. Additionally, this study is compared to another one, carried out with an alternative method from the literature, highlighting sAIfe’s advantages. Finally, two validations are carried out: one with researchers in academia and another with developers in industry, returning great feedback on sAIfe’s ease of use and speed of application
dc.description.abstractother1Com a crescente popularização do campo da Inteligência Artificial (IA), o desenvolvimento de sistemas que empregam, pelo menos, uma de suas subáreas também tem experimentado um grande aumento. A recente adoção de técnicas de IA em sistemas comuns - como aplicativos para celular e equipamentos domésticos - requer um maior nível de atenção, a fim de garantir sua segurança e funcionamento adequado. Neste cenário, garantir o funcionamento adequado destas soluções culmina, na maioria dos casos, em garantir a segurança da aplicação e dos seus dados durante todo o ciclo de vida de desenvolvimento do software. Desenvolvedores de software, no entanto, muitas vezes consideram as tarefas relacionadas à segurança difíceis de aprender e executar, e frequentemente as deixam de lado. Além disso, os frameworks de modelagem de ameaças atualmente disponíveis são difíceis de integrar nos ciclos de vida de desenvolvimento de software, que priorizam a agilidade e a automação em detrimento de análises e documentação extensas. Este trabalho, portanto, propõe o sAIfe, um novo método de modelagem de ameaças para análise de segurança de aplicações de Machine Learning (ML) em desenvolvimento. O sAIfe fornece etapas prescritivas, com elementos gráficos e resultados que incluem listas com ameaças e sugestões de remediação já prontas para o sistema analizado. Esta abordagem visa simplificar e agilizar o processo de avaliação de risco para o programador, revelando possíveis fragilidades e sugerindo respectivas soluções de forma prática. Ainda neste trabalho, o sAIfe é testado numa aplicação de IA do mundo real, revelando resultados positivos, com muitos problemas potenciais e opções de mitigação detectados pelo método, que são registados na forma de um estudo de caso. Adicionalmente, este estudo é comparado a outro, realizado com um método alternativo da literatura, evidenciando as vantagens do sAIfe. Por último, são realizadas duas validações: uma com pesquisadores na academia e outra com desenvolvedores na indústria, retornando ótimos feedbacks sobre a facilidade de uso e a velocidade de aplicação do sAIfe
dc.identifier.urihttps://repositorio.uel.br/handle/123456789/18541
dc.language.isoeng
dc.relation.departamentCCE - Departamento de Computação
dc.relation.institutionnameUniversidade Estadual de Londrina - UEL
dc.relation.ppgnamePrograma de Pós-Graduação em Ciência da Computação
dc.subjectArtiacial Intelligence
dc.subjectMachine Learning
dc.subjectSecurity
dc.subjectThreat Modeling
dc.subject.capesCiências Exatas e da Terra - Ciência da Computação
dc.subject.cnpqCiências Exatas e da Terra - Ciência da Computação
dc.subject.keywordsInteligência Artiacial
dc.subject.keywordsAprendizado de Máquina
dc.subject.keywordsSegurança
dc.subject.keywordsModelagem de Ameaças
dc.titleSaife: Towards a Lightweight Threat Modeling Approach to Support Machine Learning Application Development.
dc.title.alternativeSaife: rumo a uma abordagem leve de modelagem de ameaças para apoiar o desenvolvimento de aplicativos de Aprendizado de Máquina.
dc.typeDissertação
dcterms.educationLevelMestrado Acadêmico
dcterms.provenanceCentro de Ciências Exatas

Arquivos

Pacote Original
Agora exibindo 1 - 2 de 2
Imagem de Miniatura
Nome:
CE_COM_Me_2024_Messas_Gabriel_E.pdf
Tamanho:
954.36 KB
Formato:
Adobe Portable Document Format
Descrição:
texto completo ID: 193069
Baixar
Nenhuma Miniatura disponível
Nome:
CE_COM_Me_2024_Messas_Gabriel_E_Termo.pdf
Tamanho:
133.87 KB
Formato:
Adobe Portable Document Format
Descrição:
termo de autorização
Baixar
Licença do Pacote
Agora exibindo 1 - 1 de 1
Nenhuma Miniatura disponível
Nome:
license.txt
Tamanho:
555 B
Formato:
Item-specific license agreed to upon submission
Descrição:
Baixar

Coleções

02 - Mestrado - Ciência da Computação