Iyad Rahwan

Iyad Rahwan (arabisch إياد رهوان, DMG Iyād Rahwān; *1978)[1] ist ein syrisch-australischer Wissenschaftler. Er ist Direktor des Zentrums für Mensch und Maschine am Max-Planck-Institut für Bildungsforschung[2] und außerordentlicher Professor für Medienkunst und Medienwissenschaft am MIT Media Lab[3]. Rahwans Arbeit liegt an der Schnittstelle von Computer- und Sozialwissenschaften, wo er Themen der rechnergestützten Sozialwissenschaft, der kollektiven Intelligenz, der Kooperation in großem Maßstab und die sozialen Aspekte der künstlichen Intelligenz untersucht hat.[4]

Iyad Rahwan

Leben

Rahwan wurde in Aleppo, Syrien, geboren. Er promovierte 2005 an der Universität von Melbourne im Fach Informationssysteme. Als Assistent und dann außerordentlicher Professor für Informatik und Informationswissenschaft am MIT-Partner Masdar Institute of Science and Technology untersuchte Rahwan die Möglichkeiten, Grenzen und Herausforderungen skalierbarer sozialer Mobilisierung in verschiedenen Kontexten, indem er Daten der DARPA Network Challenge 2009 analysierte,[2][3] der DARPA Shredder Challenge 2011,[4][5] und der 2012 US State Department Tag Challenge.[6][7][8] Im Jahr 2015 gründete Rahwan die Scalable Cooperation Group am MIT Media Lab, wo er Professor für AT&T Career Development und Associate Professor of Media Arts & Sciences ist.,[9] sowie eine angegliederte Fakultät am MIT-Institut für Daten, Systeme und Gesellschaft.[10] Seit 2019 ist Rahwan Direktor am Max-Planck-Instituts für Bildungsforschung in Berlin, wo er das "Zentrum für Mensch und Maschine" gegründet hat und leitet.[11]

Maschinenverhalten

Zusammen mit Manuel Cebrian und Nick Obradowitsch stand Rahwan an der Spitze der Bemühungen, das Gebiet des Maschinenverhaltens zu etablieren.[12] Dieser Bereich befasst sich mit der wissenschaftlichen Untersuchung von Systemen der Künstlichen Intelligenz, nicht als technische Artefakte, sondern als eine Klasse von Akteuren mit bestimmten Verhaltensmustern und einer bestimmten Ökologie. Dieses Feld überschneidet sich mit der Informatik und der Robotik, unterscheidet sich aber von diesen. Es behandelt das Verhalten von Maschinen empirisch in derselben Weise, wie die Ethologie und Verhaltensökologie das Verhalten von Tieren ohne ein vollständiges Verständnis der biochemischen Mechanismen untersucht. Die Konturen und grundlegenden Forschungsfragen auf dem Gebiet des maschinellen Verhaltens skizzierten Rahwan, Obradowitsch und Cebrian zusammen mit zwanzig Koautoren aus allen Bereichen der Computer- und Verhaltenswissenschaften in einem Artikel in der Zeitschrift Nature.[13]

Society-in-the-Loop

Rahwan prägte den Begriff Society-in-the-Loop als konzeptionelle Erweiterung von Human-in-the-Loop-Systemen.[14][15] Während HITL-Systeme das Urteilsvermögen eines Einzelnen in ein eng definiertes Kontrollsystem einbetten, geht es bei SITL eher darum, das Urteilsvermögen der Gesellschaft als Ganzes in das System einzubetten. Er zitiert eine KI, die Milliarden von selbstfahrenden Autos kontrolliert (und in bestimmten Fällen entscheidet, wer es wert ist, gerettet zu werden), oder einen Nachrichtenfilter-Algorithmus mit dem Potenzial, die Ideologie von Millionen von Bürgern zu beeinflussen (der entscheidet, welche Inhalte die Benutzer sehen sollen). Rahwan betont, wie wichtig es ist, Ethik und soziale Verträge so zu artikulieren, dass Maschinen sie verstehen können, um neue Governance-Algorithmen zu entwickeln.[16]

Moral und Maschinen

Ethik autonomer Fahrzeuge

Rahwan ist einer der ersten, die das Problem der autonomen Fahrzeuge als ein ethisches Dilemma betrachten. Sein 2016 erschienener Aufsatz "The Social Dilemma of Autonomous Vehicles" zeigte, dass die Menschen utilitaristische autonome Fahrzeuge gutheißen und möchten, dass andere diese Fahrzeuge kaufen, aber sie selbst würden es vorziehen, in einem autonomen Fahrzeug zu fahren, das ihre Fahrgäste um jeden Preis schützt, und würden keine selbstfahrenden Fahrzeuge benutzen, wenn ihnen der Utilitarismus per Gesetz auferlegt würde. So kommt das Papier zu dem Schluss, dass die Regulierung von utilitaristischen Algorithmen paradoxerweise die Zahl der Unfallopfer durch Fahren erhöhen könnte, wenn die Einführung einer sichereren Technologie versehentlich verschoben wird.[17] Das Papier sorgte für viel öffentliche Aufmerksamkeit über die Rolle der Ethik bei der Schaffung künstlich intelligenter Fahrsysteme[18][19][20][21][22][23][24]

Moral Machine

Moral Machine ist eine Online-Plattform, die ethische Dilemma-Szenarien erzeugt, mit denen hypothetische autonome Maschinen konfrontiert werden, und die es den Besuchern ermöglicht, die Szenarien zu bewerten und über das moralisch akzeptabelste zwischen zwei unvermeidlichen Schadensauswirkungen abzustimmen. Die vorgestellten Szenarien sind oft Variationen des Trolley-Problems.[25][26][27]

Zusammenarbeit mit Maschinen

Zusammen mit Jacob Crandall und anderen untersuchte Rahwan die Mensch-Maschine-Kooperation, indem er untersuchte, wie modernste Verstärkungs-Lernalgorithmen bei wiederholten Spielen gegen Menschen funktionieren. Die Autoren zeigten, dass die Bereitstellung eines Kommunikationsmediums dazu führen kann, dass ein Algorithmus bei diesen strategischen Spielen schneller und effektiver als ein Mensch lernt, mit seinem menschlichen Partner zu kooperieren.[28][29][30]

KI und die Zukunft der Arbeit

Zusammen mit seinem Studenten Morgan Frank und Mitarbeitern erforschte Rahwan die Beziehung zwischen der Größe der Stadt und den potenziellen Auswirkungen von künstlicher Intelligenz und Automatisierung auf die Beschäftigung. Sie verwendeten eine Vielzahl von Schätzungen des Risikos der Automatisierung verschiedener Arbeitsplätze.[31][32]

Ihre Haupterkenntnis ist, dass kleinere Städte aufgrund der Automatisierung größere Auswirkungen aufweisen. In einer verwandten Arbeit wird die Polarisierung des US-Arbeitsmarktes aufgrund der zugrunde liegenden polarisierten Struktur der Fertigkeiten am Arbeitsplatz untersucht.[33]

Einzelnachweise

Biografie, dort unter Curriculum Vitae
How Social Media Mobilizes Society - LiveScience.
A. Rutherford, M. Cebrian, S. Dsouza, E. Moro, A. Pentland, I. Rahwan: A. Rutherford, M. Cebrian, S. Dsouza, E. Moro, A. Pentland, and I. Rahwan (2013). Limits of Social Mobilization. Proceedings of the National Academy of Sciences, vol. 110 no. 16 pp. 6281-6286. In: Proceedings of the National Academy of Sciences. 110, Nr. 16, 2013, S. 6281–6286. doi:10.1073/pnas.1216338110. PMID 23576719. PMC 3631633 (freier Volltext).
How Crowdsourcing Turned On Me - Nautilus. 23. Oktober 2014.
Nicolas Stefanovitch, Aamena Alshamsi, Manuel Cebrian, Iyad Rahwan: N. Stefanovitch, A. Alshamsi, M. Cebrian, I. Rahwan (2014). Error and attack tolerance of collective problem solving: The DARPA Shredder Challenge. EPJ Data Science. vol 3, no 13, pages 1-27. In: EPJ Data Science. 3, 2014. doi:10.1140/epjds/s13688-014-0013-1.
Philip Ball: Crowdsourcing in manhunts can work : Nature News & Comment. In: Nature. 2013. doi:10.1038/nature.2013.12867.
Alex Rutherford, Manuel Cebrian, Iyad Rahwan, Sohan Dsouza, James McInerney, Victor Naroditskiy, Matteo Venanzi, Nicholas R. Jennings, J. R. Delara, Eero Wahlstedt, Steven U. Miller: A. Rutherford et al (2013). Targeted social mobilization in a global manhunt. PLOS ONE 8 (9): e74628. In: PLoS ONE. 8, Nr. 9, 2013, S. e74628. arxiv:1304.5097. bibcode:2013PLoSO...874628R. doi:10.1371/journal.pone.0074628. PMID 24098660. PMC 3786994 (freier Volltext).
Iyad Rahwan, Sohan Dsouza, Alex Rutherford, Victor Naroditskiy, James McInerney, Matteo Venanzi, Nicholas R. Jennings, Manuel Cebrian: Global Manhunt Pushes the Limits of Social Mobilization. In: Computer. 46, Nr. 4, April 2013, ISSN 0018-9162, S. 68–75. doi:10.1109/mc.2012.295.
Person Overview ‹ Iyad Rahwan – MIT Media Lab.
Iyad Rahwan – IDSS.
Humans and Machines | Max Planck Institute for Human Development. In: www.mpib-berlin.mpg.de. Abgerufen am 20. Juni 2019.
Joe McKendrick: Artificial Intelligence Is Now Far Too Big To Be Limited To Computer Science.
Iyad Rahwan, Nick Obradovich, Josh Bongard, Jean-François Bonnefon, Cynthia Breazeal, Jacob W. Crandall, Jean-François Bonnefon, Nicholas A. Christakis, Couzin Iain D., Matthew O. Jackson, Nicholas R. Jennings, Ece Kamar, Isabel M. Kloumann, Hugo Larochelle, David Lazer, Richard McElreath, Alan Mislove, David C. Parkes, Alex Pentland, Margaret E. Roberts, Azim Shariff, Joshua B. Tenenbaum, Michale Wellman: Machine Behaviour. In: Nature. 568, Nr. 7753, 24. April 2019, S. 477–486. doi:10.1038/s41586-019-1138-y. PMID 31019318.
Society in the Loop Artificial Intelligence.
Iyad Rahwan: Society-in-the-loop: programming the algorithmic social contract. In: Ethics and Information Technology. 20, Nr. 1, 1. März 2018, ISSN 1388-1957, S. 5–14. arxiv:1707.07232. doi:10.1007/s10676-017-9430-8.
Society-in-the-loop. 12. August 2016.
J.-F. Bonnefon, A. Shariff, I. Rahwan: J. F. Bonnefon, A. Shariff, I. Rahwan (2016). The Social Dilemma of Autonomous Vehicles. Science. 352(6293):1573-1576.. In: Science. 352, Nr. 6293, 2016, S. 1573–1576. arxiv:1510.03346. doi:10.1126/science.aaf2654. PMID 27339987.
World Forum discuses how self-driving cars will make life or death decisions.
John Markoff: Should Your Driverless Car Hit a Pedestrian to Save Your Life - The New York Times. In: The New York Times, 23. Juni 2016.
Azim Shariff, Iyad Rahwan, Jean-François Bonnefon: Whose Life Should Your Car Save? - The New York Times. In: The New York Times, 3. November 2016.
Save the driver or save the crowd? Scientists wonder how driverless cars will 'choose' - The Washington Post.
TedxCambridge: The social dilemma of driverless cars.
Driverless Cars Pose Difficult Ethical Question - Time.com.
Driverless car safety revolution could be scuppered by moral dilemma - The Independent. 23. Juni 2016.
Ethical dilemma on four wheels: How to decide when your self-driving car should kill you - LA Times.
For driverless cars, a moral dilemma: Who lives or dies? - Associated Press.
Ethical dilemma on four wheels: How to decide when your self-driving car should kill you.
Jacob W. Crandall, Mayada Oudah, Tennom, Fatimah Ishowo-Oloko, Sherief Abdallah, Jean-François Bonnefon, Manuel Cebrian, Azim Shariff, Michael A. Goodrich: Cooperating with machines. In: Nature Communications. 9, Nr. 1, 16. Januar 2018, ISSN 2041-1723, S. 233. arxiv:1703.06207. bibcode:2018NatCo...9..233C. doi:10.1038/s41467-017-02597-8. PMID 29339817. PMC 5770455 (freier Volltext).
Jacob W Crandall, Mayada Oudah, Tennom, Fatimah Ishowo-Oloko, Sherief Abdallah, Jean-François Bonnefon, Manuel Cebrian, Azim Shariff, Michael A Goodrich, Iyad Rahwan: Cooperating with Machines. In: Nature Communications. 9, Nr. 233, 2017, S. 233. arxiv:1703.06207. bibcode:2018NatCo...9..233C. doi:10.1038/s41467-017-02597-8. PMID 29339817. PMC 5770455 (freier Volltext).
AI Can Beat Us at Poker—Now Let's See If It Can Work with Us - MIT Technology Review.
Sarah Widmaier, Jean-Christophe Dumont: OECD Social, Employment and Migration Working Papers. In: OECD Social, Employment and Migration Working Papers (Hrsg.): Social Employment and Migration Working Papers. 2011, ISSN 1815-199X. doi:10.1787/1815199x.
Carl Benedikt Frey, Michael A. Osborne: The future of employment: How susceptible are jobs to computerisation?. In: Technological Forecasting and Social Change. 114, Januar 2017, ISSN 0040-1625, S. 254–280. doi:10.1016/j.techfore.2016.08.019.
Morgan R. Frank, Lijun Sun, Manuel Cebrian, Hyejin Youn, Iyad Rahwan: Small cities face greater impact from automation. In: Journal of the Royal Society Interface. 15, Nr. 139, 1. Februar 2018, ISSN 1742-5689, S. 20170946. doi:10.1098/rsif.2017.0946. PMID 29436514. PMC 5832739 (freier Volltext).

This article is issued from Wikipedia. The text is licensed under Creative Commons - Attribution - Sharealike. The authors of the article are listed here. Additional terms may apply for the media files, click on images to show image meta data.

[1] Biografie, dort unter Curriculum Vitae

[:0-2] How Social Media Mobilizes Society - LiveScience.

[:1-3] A. Rutherford, M. Cebrian, S. Dsouza, E. Moro, A. Pentland, I. Rahwan: A. Rutherford, M. Cebrian, S. Dsouza, E. Moro, A. Pentland, and I. Rahwan (2013). Limits of Social Mobilization. Proceedings of the National Academy of Sciences, vol. 110 no. 16 pp. 6281-6286. In: Proceedings of the National Academy of Sciences. 110, Nr. 16, 2013, S. 6281–6286. doi:10.1073/pnas.1216338110. PMID 23576719. PMC 3631633 (freier Volltext).

[:2-4] How Crowdsourcing Turned On Me - Nautilus. 23. Oktober 2014.

[5] Nicolas Stefanovitch, Aamena Alshamsi, Manuel Cebrian, Iyad Rahwan: N. Stefanovitch, A. Alshamsi, M. Cebrian, I. Rahwan (2014). Error and attack tolerance of collective problem solving: The DARPA Shredder Challenge. EPJ Data Science. vol 3, no 13, pages 1-27. In: EPJ Data Science. 3, 2014. doi:10.1140/epjds/s13688-014-0013-1.

[6] Philip Ball: Crowdsourcing in manhunts can work : Nature News & Comment. In: Nature. 2013. doi:10.1038/nature.2013.12867.

[7] Alex Rutherford, Manuel Cebrian, Iyad Rahwan, Sohan Dsouza, James McInerney, Victor Naroditskiy, Matteo Venanzi, Nicholas R. Jennings, J. R. Delara, Eero Wahlstedt, Steven U. Miller: A. Rutherford et al (2013). Targeted social mobilization in a global manhunt. PLOS ONE 8 (9): e74628. In: PLoS ONE. 8, Nr. 9, 2013, S. e74628. arxiv:1304.5097. bibcode:2013PLoSO...874628R. doi:10.1371/journal.pone.0074628. PMID 24098660. PMC 3786994 (freier Volltext).

[8] Iyad Rahwan, Sohan Dsouza, Alex Rutherford, Victor Naroditskiy, James McInerney, Matteo Venanzi, Nicholas R. Jennings, Manuel Cebrian: Global Manhunt Pushes the Limits of Social Mobilization. In: Computer. 46, Nr. 4, April 2013, ISSN 0018-9162, S. 68–75. doi:10.1109/mc.2012.295.

[9] Person Overview ‹ Iyad Rahwan – MIT Media Lab.

[10] Iyad Rahwan – IDSS.

[11] Humans and Machines | Max Planck Institute for Human Development. In: www.mpib-berlin.mpg.de. Abgerufen am 20. Juni 2019.

[12] Joe McKendrick: Artificial Intelligence Is Now Far Too Big To Be Limited To Computer Science.

[Rahwan2019-13] Iyad Rahwan, Nick Obradovich, Josh Bongard, Jean-François Bonnefon, Cynthia Breazeal, Jacob W. Crandall, Jean-François Bonnefon, Nicholas A. Christakis, Couzin Iain D., Matthew O. Jackson, Nicholas R. Jennings, Ece Kamar, Isabel M. Kloumann, Hugo Larochelle, David Lazer, Richard McElreath, Alan Mislove, David C. Parkes, Alex Pentland, Margaret E. Roberts, Azim Shariff, Joshua B. Tenenbaum, Michale Wellman: Machine Behaviour. In: Nature. 568, Nr. 7753, 24. April 2019, S. 477–486. doi:10.1038/s41586-019-1138-y. PMID 31019318.

[14] Society in the Loop Artificial Intelligence.

[15] Iyad Rahwan: Society-in-the-loop: programming the algorithmic social contract. In: Ethics and Information Technology. 20, Nr. 1, 1. März 2018, ISSN 1388-1957, S. 5–14. arxiv:1707.07232. doi:10.1007/s10676-017-9430-8.

[16] Society-in-the-loop. 12. August 2016.

[17] J.-F. Bonnefon, A. Shariff, I. Rahwan: J. F. Bonnefon, A. Shariff, I. Rahwan (2016). The Social Dilemma of Autonomous Vehicles. Science. 352(6293):1573-1576.. In: Science. 352, Nr. 6293, 2016, S. 1573–1576. arxiv:1510.03346. doi:10.1126/science.aaf2654. PMID 27339987.

[18] World Forum discuses how self-driving cars will make life or death decisions.

[19] John Markoff: Should Your Driverless Car Hit a Pedestrian to Save Your Life - The New York Times. In: The New York Times, 23. Juni 2016.

[20] Azim Shariff, Iyad Rahwan, Jean-François Bonnefon: Whose Life Should Your Car Save? - The New York Times. In: The New York Times, 3. November 2016.

[21] Save the driver or save the crowd? Scientists wonder how driverless cars will 'choose' - The Washington Post.

[22] TedxCambridge: The social dilemma of driverless cars.

[23] Driverless Cars Pose Difficult Ethical Question - Time.com.

[24] Driverless car safety revolution could be scuppered by moral dilemma - The Independent. 23. Juni 2016.

[25] Ethical dilemma on four wheels: How to decide when your self-driving car should kill you - LA Times.

[26] For driverless cars, a moral dilemma: Who lives or dies? - Associated Press.

[27] Ethical dilemma on four wheels: How to decide when your self-driving car should kill you.

[28] Jacob W. Crandall, Mayada Oudah, Tennom, Fatimah Ishowo-Oloko, Sherief Abdallah, Jean-François Bonnefon, Manuel Cebrian, Azim Shariff, Michael A. Goodrich: Cooperating with machines. In: Nature Communications. 9, Nr. 1, 16. Januar 2018, ISSN 2041-1723, S. 233. arxiv:1703.06207. bibcode:2018NatCo...9..233C. doi:10.1038/s41467-017-02597-8. PMID 29339817. PMC 5770455 (freier Volltext).

[29] Jacob W Crandall, Mayada Oudah, Tennom, Fatimah Ishowo-Oloko, Sherief Abdallah, Jean-François Bonnefon, Manuel Cebrian, Azim Shariff, Michael A Goodrich, Iyad Rahwan: Cooperating with Machines. In: Nature Communications. 9, Nr. 233, 2017, S. 233. arxiv:1703.06207. bibcode:2018NatCo...9..233C. doi:10.1038/s41467-017-02597-8. PMID 29339817. PMC 5770455 (freier Volltext).

[30] AI Can Beat Us at Poker—Now Let's See If It Can Work with Us - MIT Technology Review.

[31] Sarah Widmaier, Jean-Christophe Dumont: OECD Social, Employment and Migration Working Papers. In: OECD Social, Employment and Migration Working Papers (Hrsg.): Social Employment and Migration Working Papers. 2011, ISSN 1815-199X. doi:10.1787/1815199x.

[32] Carl Benedikt Frey, Michael A. Osborne: The future of employment: How susceptible are jobs to computerisation?. In: Technological Forecasting and Social Change. 114, Januar 2017, ISSN 0040-1625, S. 254–280. doi:10.1016/j.techfore.2016.08.019.

[33] Morgan R. Frank, Lijun Sun, Manuel Cebrian, Hyejin Youn, Iyad Rahwan: Small cities face greater impact from automation. In: Journal of the Royal Society Interface. 15, Nr. 139, 1. Februar 2018, ISSN 1742-5689, S. 20170946. doi:10.1098/rsif.2017.0946. PMID 29436514. PMC 5832739 (freier Volltext).