Foto 8_Audrey Lorvo.jpg
Audrey Lorvo ist eine Studentin im letzten Jahr ihres Studiums der Informatik, Wirtschaftswissenschaften und Datenwissenschaft und Stipendiatin für soziale Verantwortung und Ethik in der Informatik (SERC). Foto: MIT

KI-Sicherheitsforschung – ein wichtiges Feld

Audrey Lorvo forscht derzeit zur Sicherheit künstlicher Intelligenz, einem Bereich, der darauf abzielt, sicherzustellen, dass Modelle künstlicher Intelligenz immer intelligenter, aber dennoch vertrauenswürdig und nützlich für die Menschheit werden. In diesem Bereich stehen technische Herausforderungen wie Fehlertoleranz und eine auf menschlichen Werten basierende KI im Mittelpunkt, während gleichzeitig soziale Fragen wie Transparenz und Rechenschaftspflicht behandelt werden. Experten befürchten zudem, dass die zunehmende Leistungsfähigkeit der KI existenzielle Risiken birgt.

„Es wird immer wichtiger sicherzustellen, dass KI nicht missbraucht wird oder entgegen den menschlichen Absichten funktioniert, insbesondere da wir uns der künstlichen allgemeinen Intelligenz (AGI) nähern“, teilte Lorvo mit.

Als Wissenschaftler im Programm „Social and Ethical Responsibility of Computing“ (SERC) am Schwarzman Institute for Computing des MIT interessiert sich Lorvo dafür, wie KI Forschungs- und Entwicklungsprozesse im Bereich KI automatisieren kann. „Wir müssen alles tun, was wir können, um KI sicher zu entwickeln“, betonte sie und lenkte die Aufmerksamkeit auf geeignete regulatorische Rahmenbedingungen und Strategien zur Bewältigung der Risiken.

Lorvo engagiert sich in Initiativen wie dem AI Safety Engineering Fellowship und setzt sich für das Verständnis der technischen Aspekte der KI-Sicherheit ein. Dieses Stipendienprogramm unterstützt sie dabei, ihre Forschungsmethoden so auszurichten, dass die KI-Entwicklung den Menschen zugutekommt.

„Das Programm hat mir geholfen, ein tieferes Verständnis für die technischen Probleme und Herausforderungen der KI-Sicherheit zu erlangen und dadurch effektivere KI-Governance-Strategien vorzuschlagen“, erzählte sie.

Laut Lorvo erweitern KI-Pioniere die technologischen Grenzen und erfordern eine wirksame Umsetzung politischer Maßnahmen, um die Sicherheit der Menschen zu priorisieren, ohne die Forschung zu behindern.

Der Wert eines multidisziplinären Ansatzes

Von dem Moment an, als er am MIT anfing, wollte Lorvo Naturwissenschaften und Geisteswissenschaften verbinden. Die Vielfalt der Ausbildungsfelder macht es ihr allerdings schwer, sich für einen bestimmten Studiengang zu entscheiden.

„Es gibt viele Möglichkeiten, die Lebensqualität zu verbessern, und das MIT bietet unzählige Möglichkeiten, diese zu erkunden. Professor Joshua Angrists Ökonometrie-Kurse haben mir den Wert der Wirtschaftsforschung vor Augen geführt, während mich Data Science und Informatik aufgrund des wachsenden Potenzials der KI faszinierten. Wir können diese Werkzeuge nutzen, um unsere dringendsten Probleme zu lösen und große Herausforderungen zu meistern“, sagte Lorvo.

Lorvo erweiterte seine Forschung auch auf Stadtplanung und internationale Entwicklung. Als sie sich tiefer in ihr Fachgebiet vertiefte, erkannte sie, dass viele MIT-Studenten, insbesondere die MIT AI Alignment-Gruppe, ihre Ansichten zur Technologieverantwortung teilten.

Das Konzept der „marginalen Wirkung“ beschreibt die zusätzliche Wirkung einer Investition von Zeit, Geld oder Aufwand in einem bestimmten Bereich. Laut Lorvo hilft dieser Ansatz Einzelpersonen dabei, zu entscheiden, wie sie ihre Ressourcen effektiver investieren.

In einer Welt mit begrenzten Ressourcen, argumentiert Lorvo, kann ein datengesteuerter Ansatz dabei helfen, Ressourcen in Bereichen zu verteilen, in denen sie wahrscheinlich den größten Nutzen bringen. Wenn Sie Ihre soziale Wirkung maximieren möchten, ist es wichtig, über die marginalen Auswirkungen Ihrer Berufswahl nachzudenken.

Studentenerfahrung am MIT

Neben dem Studium nimmt Lorvo aktiv an außerschulischen Aktivitäten teil, um sinnvolle Erfahrungen zu sammeln und Kontakte zu Kommilitonen zu knüpfen.

„Ich habe das Glück, mein Studium, meine Forschung, meine Clubaktivitäten und meine persönlichen Interessen wie Krafttraining oder die Teilnahme an außerschulischen Initiativen unter einen Hut bringen zu können. Am MIT gibt es immer viele interessante Clubs und Veranstaltungen zu entdecken“, sagte Lorvo.

Diese Möglichkeiten erweiterten nicht nur ihren Horizont, sondern halfen ihr auch, ihre berufliche Laufbahn gezielter auszurichten. Lorvo, der fließend Französisch, Englisch, Spanisch und Portugiesisch spricht, schätzt auch die internationalen Erfahrungsprogramme am MIT.

Lorvo, der im Rahmen des MISTI-Programms ein Praktikum in Santiago de Chile und Paris absolvierte, beteiligte sich auch an der Erprobung des Dampfkondensationssystems, das das Team im D-Lab-Jahrgang 2023 in Zusammenarbeit mit der Polytechnischen Schule von Madagaskar und der NGO Tatirano entwickelt hatte. Diese Erfahrungen halfen ihr, besser zu verstehen, wie man der wirtschaftlichen Ungleichheit entgegenwirken kann.

Nach seinem Abschluss möchte Lorvo seine Forschung zu KI-Sicherheits- und Governance-Strategien fortsetzen, um sicherzustellen, dass KI sicher und effektiv eingesetzt wird.

„Eine gute Regierungsführung ist der Schlüssel zur erfolgreichen Entwicklung von KI und hilft der Menschheit, ihr transformatives Potenzial zu nutzen. Wir müssen die Entwicklung der KI kontinuierlich beobachten, während sich die Technologie weiterentwickelt“, betonte Lorvo.

(Laut MIT News)