Im Spannungsfeld der Künstlichen Intelligenz. Chancen und Risiken großer KI-Sprachmodelle für die IT-Sicherheit in Unternehmen

Bachelorarbeit aus dem Jahr 2024 im Fachbereich Informatik - Künstliche Intelligenz, Note: 1.0, , Sprache: Deutsch, Abstract: In dieser Arbeit wird das Potenzial großer KI-Sprachmodelle (Large Language Models, LLM) im Kontext der IT-Sicherheit in Unternehmen untersucht. Die zentrale Fragestellung bezieht sich auf die Chancen, Risiken und Herausforderungen, die sich aus der Integration von LLM in Unternehmensprozesse ergeben. Im Zuge der zunehmenden Digitalisierung und der steigenden Bedrohung durch Cyberangriffe wird der Einsatz solcher Modelle immer relevanter. LLM wie CyBERT und SecBERT bieten beispielsweise Möglichkeiten zur Analyse großer Datenmengen und zur Erkennung komplexer Muster, was insbesondere im Bereich der Threat Intelligence von Bedeutung ist. Die Modelle können durch die Identifikation von Anomalien und Bedrohungen einen erheblichen Beitrag zur Sicherheitsstrategie eines Unternehmens leisten. Durch die Überprüfung von Domainnamen, IP-Adressen und anderen relevanten Datenpunkten ermöglichen diese Systeme präventive Maßnahmen gegen potenzielle Cyberangriffe. Dennoch bringt die Einführung solcher Modelle auch Risiken und Herausforderungen mit sich. Insbesondere Datenschutzbedenken und ethische Überlegungen sind wesentliche Faktoren, die bei der Integration in die bestehende Infrastruktur berücksichtigt werden müssen. Da LLM auf umfangreiche Datensätze zugreifen und in vielen Fällen persönliche oder vertrauliche Informationen verarbeiten, besteht das Risiko von Datenschutzverletzungen und unbefugtem Zugriff auf sensible Daten. Zusätzlich bestehen technische Herausforderungen hinsichtlich der Erklärbarkeit und Transparenz der Modelle. Diese Problematik wird durch die Einführung von Ansätzen wie der 'Explainable Artificial Intelligence' (XAI) angegangen, die darauf abzielt, Entscheidungen und Prozesse in KI-Modellen für Anwender verständlich und nachvollziehbar zu gestalten. Abschließend zeigt die Arbeit, dass eine sorgfältige und verantwortungsvolle Implementierung von LLM im Bereich der IT-Sicherheit in Unternehmen entscheidend ist, um das Potenzial dieser Technologien auszuschöpfen, ohne dabei die damit verbundenen Risiken zu vernachlässigen. Die Empfehlung an Unternehmen lautet, auf eine umfassende Risikoanalyse zu setzen, ethische Richtlinien zu befolgen und ihre Mitarbeiter für den Umgang mit diesen Technologien zu schulen. [...]