人工智能：机遇与风险Künstliche Intelligenz: Chancen und Risiken

Künstliche Intelligenz: Chancen und Risiken

Künstliche Intelligenz (KI) wirkt sich immer stärker auf unser Leben aus. Mehr über die Chancen und Risiken für Sicherheit, Demokratie, Unternehmen und Jobs.

Veröffentlicht: 29-09-2020

Letzte Aktualisierung: 20-06-2023 - 12:15

Lesezeit: 8 Minuten

Das Wachstum und der Wohlstand unseres Kontinents hängen zum Teil davon ab, wie Europa die Chancen für sich nutzen kann, die sich aus digitalen, vernetzten Technologien ergeben. Künstliche Intelligenz kann in unserem Leben einen großen Unterschied machen – im Guten wie im Schlechten. Im Juni 2023 verabschiedete das Europäische Parlament seine Verhandlungsposition zum Gesetz über künstliche Intelligenz, dem weltweit ersten umfassenden Regelwerk zur Bewältigung von KI-Risiken. Im Folgenden werden Möglichkeiten und Herausforderungen im Zusammenhang mit künftigen KI-Anwendungen vorgestellt.

Der Mensch im Mittelpunkt

Vorteile künstlicher Intelligenz

Die EU-Mitgliedstaaten sind bei Digitaltechnik und Business-to-Business-Anwendungen bereits stark vertreten. Mit einem entsprechenden starken Rechtsrahmen zum Schutz von Privatsphäre und Meinungsfreiheit sowie qualitativen digitalen Infrastrukturen könnte die EU in der Datenwirtschaft weltweit eine Spitzenposition einnehmen.

Vorteile für Bürger

KI könnte dazu beitragen, die Gesundheitsversorgung zu verbessern, Autos und andere Verkehrsmittel sicherer zu machen und maßgeschneiderte, preiswertere und langlebigere Produkte und Dienstleistungen auf den Markt zu bringen. Auch der Zugang zu Informationen sowie zu allgemeiner und beruflicher Bildung kann durch den Einsatz von KI erleichtert werden – in Bezug auf Fernunterricht und Weiterbildung kommt diesem Aspekt vor dem Hintergrund der COVID-19-Pandemie bereits besondere Bedeutung zu. KI kann zur Arbeitsplatzsicherheit beitragen, indem zum Beispiel Roboter für gefährliche Arbeitsschritte eingesetzt werden. Neue Jobs entstehen, da Branchen, die künstliche Intelligenz einsetzen, wachsen und sich weiterentwickeln.

Chancen für Unternehmen

Künstliche Intelligenz ermöglicht die Entwicklung einer neuen Generation von Produkten und Dienstleistungen, auch in Sektoren, in denen europäische Unternehmen bereits eine starke Position innehaben: grüne Wirtschaft und Kreislaufwirtschaft, Maschinenbau, Landwirtschaft, Gesundheitswesen, Mode, Tourismus. KI kann Vertriebswege optimieren, Wartungstechniken verbessern, die Produktionsleistung und -qualität steigern, den Kundenservice verbessern und dazu beitragen, Energie zu sparen.

Möglichkeiten im öffentlichen Dienst

KI kann dazu beitragen, Kosten zu senken, neue Möglichkeiten in den Bereichen öffentlicher Verkehr, Bildung, Energie und Abfallwirtschaft eröffnen und die Nachhaltigkeit von Produkten erhöhen. So könnten digitale Technologien wie KI entscheidend dazu beitragen, die Ziele des Grünen Deals umzusetzen.

Stärkung der Demokratie

Die Verhinderung von Desinformation und Cyberangriffen und die Gewährleistung des Zugangs zu vertrauenswürdigen Informationen können die Demokratie stärken. Auch Chancengleichheit und Vielfalt könnten durch KI-Tools gefördert werden, indem beispielsweise analytische Daten herangezogen werden, um das Risiko vorurteilsbasierter Einstellungsentscheidungen zu mindern.

KI und Sicherheit

Es wird davon ausgegangen, dass KI stärker in der Verbrechensprävention und bei der Strafverfolgung eingesetzt werden wird; Datensätze könnten schneller verarbeitet werden, die Fluchtgefahr von Gefangenen genauer eingeschätzt und Straftaten oder sogar Terroranschläge vorhergesagt und verhindert werden. KI wird bereits von Online-Plattformen genutzt, um unrechtmäßiges und unangemessenes Verhalten im Netz aufzudecken und darauf zu reagieren.

Im militärischen Bereich kann KI für Verteidigungs- und Angriffsstrategien bei Hacking und Phishing Anwendung finden.

Gefahren und Herausforderungen der KI

Die zunehmende Abhängigkeit von KI-Systemen birgt auch potenzielle Risiken.

Unzureichende und übermäßige Nutzung von KI

KI kann dazu beitragen, EU-Programme wie den Grünen Deal erfolgreich umzusetzen und Wettbewerbsvorteile zu eröffnen. Verpasst die EU diese Chancen, so könnte dies negative Folgen mit sich bringen, wie wirtschaftliche Stagnation, fehlende Infrastrukturen, mangelnden Investitionsgeist, geringere Investitionen und schlechtere Möglichkeiten für Bürger und Unternehmen. Aber auch eine übermäßige Nutzung von KI kann problematisch sein. Mögliche Beispiele sind Investitionen in Anwendungen, die sich als nicht nützlich erweisen, oder der Einsatz von KI in Bereichen, für die sie nicht geeignet ist.

Haftung: Wer ist im Falle von Schäden verantwortlich?

Eine wichtige Herausforderung besteht darin zu bestimmen, wer für Schäden verantwortlich ist, die durch auf KI basierende Geräte oder Dienste verursacht werden. Sollten bei einem Unfall, an dem ein selbstfahrendes Fahrzeug beteiligt ist, die Schäden vom Eigentümer, dem Fahrzeughersteller oder dem Programmierer gedeckt werden?

Wäre der Hersteller frei von jeder Verantwortung, dann gäbe es auch keinen Anreiz, ein gutes Produkt oder eine gute Dienstleistung anzubieten, und das Vertrauen der Menschen in neue Technologien würde beschädigt; zu strenge Regelungen wiederum würden Innovationen im Keim ersticken.

Gefahren für Grundrechte und Demokratie

Die Ergebnisse künstlicher Intelligenz hängen davon ab, wie sie konzipiert ist und welche Daten verwendet werden. Sowohl Daten als auch Design können absichtlich oder unabsichtlich verzerrt werden. So werden einige wichtige Faktoren einer Problemstellung möglicherweise nicht in den Algorithmus eingebettet oder dieser so programmiert, dass strukturelle Verzerrungen widergespiegelt und nachgebildet werden. Darüber hinaus könnte die Verwendung von Zahlen KI faktenbasiert und präzise erscheinen lassen, auch wenn dies nicht der Fall ist („Mathwashing“).

Wird KI nicht ordnungsgemäß genutzt, so könnte sie beispielsweise bei Jobeinstellungen oder Kreditvergaben zu Entscheidungen führen, die durch ethnische Zugehörigkeit, Geschlecht oder Alter beeinflusst werden.

Außerdem ergeben sich mögliche entscheidende Auswirkungen auf Privatsphäre und Datenschutz. KI kann beispielsweise für Gesichtserkennung oder Online-Tracking und Profiling von Einzelpersonen verwendet werden.

KI kann auch eine Bedrohung für die Demokratie darstellen. In diesem Zusammenhang wird beispielsweise oft kritisiert, dass Internetseiten dazu neigen, dem Benutzer nur Informationen anzuzeigen, die mit seinem bisherigen Online-Verhalten übereinstimmen („Filterblasen“), anstatt eine Umgebung für eine pluralistische, gleichermaßen zugängliche und integrative öffentliche Debatte zu schaffen. KI kann sogar dazu genutzt werden, extrem realistische gefälschte Videos, Audioaufnahmen und Bilder zu erzeugen, die als „Deepfakes“ bezeichnet werden. Diese Mechanismen können zu Polarisierung und Wahlmanipulation beitragen.

Durch Tracking und Profiling sind auch Auswirkungen auf die Versammlungs- und Demonstrationsfreiheit möglich.

Auswirkungen auf Jobs

Es wird erwartet, dass die Nutzung von KI am Arbeitsplatz zur Einsparung von Arbeitsplätzen führen wird. Obwohl künstliche Intelligenz auch mit der Schaffung neuer Jobs in Verbindung gebracht wird, werden Bildung und Weiterbildung eine entscheidende Rolle dabei spielen, Langzeitarbeitslosigkeit zu verhindern und qualifizierte Arbeitskräfte auszubilden.

Wettbewerb

Die Sammlung von Informationen kann auch zu Wettbewerbsverzerrungen führen, da Akteure mit mehr Informationen Vorteile gegenüber Mitbewerbern haben.

Sicherheitsrisiken

KI-Tools, mit denen Menschen physisch in Berührung kommen oder die sogar in den menschlichen Körper implantiert werden, können hohe Sicherheitsrisiken darstellen, da sie schlecht konzipiert, missbraucht oder gehackt werden können.

Herausforderungen im Zusammenhang mit Transparenz

Ungleichgewichte beim Informationszugang könnten ausgenutzt werden. Auf der Grundlage des Online-Verhaltens einer Person oder anderer Daten kann ein Online-Anbieter beispielsweise ohne deren Wissen KI nutzen, um vorherzusagen, wie viel die Person zur Zahlung bereit ist. Ein weiteres Transparenzproblem besteht darin, dass es für die Menschen manchmal unklar sein kann, ob sie mit einer KI-Anwendung oder einer echten Person interagieren.

原文链接：

https://www.europarl.europa.eu/topics/de/article/20200918STO87404/kunstliche-intelligenz-chancen-und-risiken

人工智能：机遇与风险

人工智能（KI）正越来越多地影响着我们的生活。更多关于安全、民主、商业和就业的机遇和风险。

发布日期：29-09-2020

最后更新：20-06-2023-12:15

阅读时间：8分钟

我们大陆的增长和繁荣在一定程度上取决于欧洲如何利用数字互联技术带来的机遇。人工智能可以给我们的生活带来巨大的变化——无论是好是坏。2023年6月，欧洲议会通过了《人工智能法案》的谈判立场，这是全球首个应对人工智能风险的全面规则。以下是未来AI应用相关的机遇和挑战。

以人为本

人工智能的优势

欧盟成员国在数字技术和企业对企业应用方面已经有很强的代表性。有了保护隐私和言论自由的相应强有力的法律框架，以及高质量的数字基础设施，欧盟可以在数据经济中处于世界领先地位。

对公民的好处

人工智能可以帮助改善医疗保健，使汽车和其他交通工具更安全，并为市场带来定制、更便宜、更耐用的产品和服务。人工智能的使用还可以促进获取信息以及教育和培训——就远程学习和继续教育而言，在COVID-19大流行的背景下，这方面已经变得特别重要。人工智能可以为工作场所安全做出贡献，例如，通过使用机器人进行危险的工作步骤。随着使用人工智能的行业不断增长和发展，新的工作岗位不断涌现。

企业机遇

人工智能使新一代产品和服务的开发成为可能，包括在欧洲公司已经占据强势地位的领域：绿色经济和循环经济、机械工程、农业、医疗保健、时尚、旅游业。人工智能可以优化销售渠道、改进维护技术、提高生产效率和质量、改善客户服务并帮助节约能源。

公共服务机会

人工智能可以帮助降低成本，为公共交通、教育、能源和废物管理带来新的机遇，并提高产品的可持续性。人工智能等数字技术可以为实现绿色协议的目标做出决定性贡献。

加强民主

防止虚假信息和网络攻击，确保获得可信信息，可以加强民主。人工智能工具还可以促进平等和多样性，例如，使用分析数据来降低基于偏见的招聘决定的风险。

人工智能与安全

相信AI将更多地应用于犯罪预防和执法；可以更快地处理数据集，更准确地评估囚犯逃跑的风险，并预测和预防犯罪甚至恐怖袭击。在线平台已经在使用人工智能来检测和应对网络上的非法和不当行为。

在军事领域，人工智能可以应用于黑客和网络钓鱼的防御和攻击策略。

人工智能的危险与挑战

对人工智能系统日益增长的依赖也带来了潜在的风险。

AI使用不足和过度

人工智能可以帮助成功实施绿色协议等欧盟计划，并开辟竞争优势。如果欧盟错过这些机会，可能会产生负面后果，如经济停滞、基础设施缺乏、缺乏投资精神、投资减少以及公民和企业的机会减少。但过度使用人工智能也会带来问题。可能的例子包括投资于被证明无用的应用程序，或者在人工智能不适合的领域使用人工智能。

责任：如果发生损坏，谁负责？

一个重要的挑战是确定谁应对基于人工智能的设备或服务造成的损害负责。如果自动驾驶车辆发生事故，损失应该由车主、车辆制造商还是程序员来承担？

如果制造商不承担任何责任，就没有动力提供好的产品或服务，人们对新技术的信心就会受到损害；反过来，过于严格的监管会将创新扼杀在萌芽状态。

对基本权利和民主的威胁

人工智能的结果取决于它是如何设计的，以及使用了哪些数据。数据和设计都可能被有意或无意地扭曲。例如，一个问题的一些重要因素可能没有嵌入到算法中，也没有被编程为反映和再现结构扭曲。此外，使用数字可能会让人工智能看起来基于事实和准确，即使事实并非如此（“数学清洗”）。

例如，如果人工智能使用不当，它可能会导致招聘或贷款时的决策受到种族、性别或年龄的影响。

此外，还可能对隐私和数据保护产生决定性影响。例如，人工智能可以用于面部识别或在线跟踪和分析个人。

人工智能也可能对民主构成威胁。例如，在这方面，人们经常批评网站倾向于只向用户显示与其先前在线行为一致的信息（“过滤气泡”），而不是为多元化、同样可访问和包容的公共辩论创造环境。人工智能甚至可以用来创建极其逼真的假视频、音频和图像，称为“深度伪造”。这些机制可能会导致两极分化和选举操纵。

跟踪和侧写也可能对集会和示威自由产生影响。

对就业的影响

在工作场所使用人工智能有望节省工作岗位。虽然人工智能也与创造新的就业机会有关，但教育和培训将在防止长期失业和培养熟练劳动力方面发挥关键作用。

竞争

收集信息也可能导致扭曲竞争，因为拥有更多信息的行为者比竞争对手更有优势。

安全风险

与人类进行物理接触，甚至植入人体的人工智能工具可能会带来很高的安全风险，因为它们可能设计不良、被滥用或被黑客攻击。

与透明度有关的挑战

信息获取方面的不平衡可能被利用。例如，基于一个人的在线行为或其他数据，在线提供商可以在他们不知情的情况下使用人工智能来预测这个人愿意支付多少。另一个透明度问题是，人们有时可能不清楚他们是在与人工智能应用程序还是真人进行交互。