[CHI 24 REVIEW] Any sufciently advanced technology is indistinguishable from magic

This document is structured as follows:

• Meta Information about the Paper (논문 정보)

• Researcher's Affiliation Site (저자 연구실 정보)

• Content for General Readers (일반 독자를 위한 내용)

• Content for Korean Readers Who Want to Know More about the Paper (관련 분야 한국 전문가를 위한 내용)

• In conclusion(마치며)

let’s start.

Meta Information about the Paper

Lupetti, M. L., & Murray-Rust, D. (2024, May). (Un) making AI Magic: A Design Taxonomy. In Proceedings of the CHI Conference on Human Factors in Computing Systems (pp. 1-21).

Video:

https://dl.acm.org/doi/10.1145/3613904.3641954

Researcher's Affiliation Site

Prof. Dave Murray-Rust

Faculty of Industrial Design Engineering, Department of Human Centred Design, Delft University of Technology, Netherlands

https://dave.murray-rust.org/

Content for General Readers

motivation

This paper aims to examine the role of enchantment in the design of AI products by constructing a taxonomy of design approaches that increase or decrease the perception of magic and enchantment. The motivation stems from the increasing use of magical language and metaphors surrounding recent AI developments, which emphasizes the enchanting nature of these technologies. The authors aim to investigate how design can contribute to shaping the sense of enchantment in AI product experiences, and support understanding the effects of magical thinking in AI design.

한글 요약:

• AI 제품 디자인에서 마법과 매력의 역할을 탐구하기 위해 분류 체계를 구축.

• 인공지능 알고리즘의 작동 방식이 인간이 이해하기 어려울 만큼 복잡하고, 기술 기업들이 인공지능을 모든 문제를 해결할 만능 열쇠처럼 홍보하면서 'magic'이라는 표현을 사용하게 되었는데, 이러한 최근 AI 기술 발전과 관련해 사용되는 마법적 언어와 비유가 증가함에 따라 매혹적인 특성이 강조됨.

• 디자인이 AI 제품 경험에서 매력을 형성하는 데 어떤 기여를 할 수 있는지 연구.

• AI 디자인에서 마법적 사고의 효과를 이해하는 데 도움을 주고자 함.

contribution

1. Developing a taxonomy of seven design principles that engage with magic and AI in creating interactive products. The taxonomy is based on analyzing 52 design projects from two years of a Masters course on design and AI.

2. Unpacking the effects of each design principle in the taxonomy in terms of enchantment and disenchantment of the AI product experience.

3. Articulating ways for designers to approach and appropriate the taxonomy in their practice to support exploration and reflexivity when designing AI products.

4. Providing insights into how student designers conceptualize and engage with AI in their projects, serving as a window into the development of designers working with AI.

5. Contributing to the discussion on the role of magical thinking and enchantment in technology design, specifically in the context of the increasing adoption of AI in products and creative practices.

한글요약:

• 마법과 AI를 결합하여 상호작용 제품을 만드는 7가지 디자인 원칙의 분류 체계 개발.

• 2년간의 석사 과정에서 52개 디자인 프로젝트를 분석하여 체계화.

• 각 디자인 원칙이 AI 제품 경험에서 매력과 비매력에 미치는 효과를 분석.

• 디자이너들이 디자인 실무에서 분류 체계를 탐구하고 반영적으로 활용할 수 있는 방법 제시.

• AI를 다루는 학생 디자이너들이 프로젝트에서 AI를 어떻게 개념화하고 활용하는지에 대한 통찰 제공.

• AI 제품 및 창작 과정에서 마법적 사고와 매력의 역할에 대한 논의에 기여.

Content for Readers Who Want to Know More about the Paper

<Related work presented in the introduction>

• AI가 글을 쓰고 대화하고 그림을 그리고 가짜 사진과 비디오도 만들 수 있다는 Bruce Sterling의 언급 [114]

• AI 도구가 아이디어 탐색 [22, 66, 68], 발상 [128], 프로젝트 문서화 [21], 창의적 파트너십 [71, 86] 등 다양한 창의적 작업에 활용되고 있음

• AI 프로그래밍은 마법 주문(spellcasting), 연금술(alchemy), 기도(invoking) 등 초자연적인 용어로 묘사된다는 Derczynski의 보고 [31]

• AI가 대화 [57]와 창의성 표현 [38, 76, 88] 등 인간 고유의 능력을 보여줌

• AI가 사고, 상상, 기억, 의지, 감각, 지각, 신념, 욕망, 의도, 감정 등 인간적 속성을 가진 것처럼 여겨짐 [24]

• AI가 문장을 만들 수는 있지만 실제 언어를 이해하지는 못한다는 지적 [9]

• 복잡한 딥러닝 알고리즘은 전문가조차 완전히 이해하기 어려워 마법적으로 느껴짐 [18]

• AI 알고리즘은 구조, 내부 패턴, 외부 연결 등이 불투명함 [5, 74, 96] [39] [16]

• 기술 기업들이 AI를 만능 해결사로 묘사하며 마법과 초인적 능력의 언어를 사용함 (Future Tools [118], Google's Magical [81], Figma's Magician [42], Runway AI [106] 등)

• 기술에 마법적 사고와 언어를 적용하는 것은 HCI 분야에서 오랜 역사를 가짐. 기술자들이 21세기의 마법사로 여겨짐 [27]. 신기술 제품은 익숙함과 신비로움을 결합해 마법적으로 느껴짐 [69, 104]

<7 design principles>

1.위 그림에 표시된 것과 같이, 사용자에게 환상을 만드는 요소로는 아래 항목이 사용될 수 있음.

<applying stage magic principles>

<applying magic metaphors>

<summoning AI as supernatural entity>

2.사용자의 환상을 깨뜨리는 요소로는 아래 항목이 사용될 수 있음.

<materializing beliefs>

<manifesting mechanisms>

<play with AI>

3.<presuming AI> 는 특정 경향성을 보이지 않았음.

이하 각 요소에 대한 간략한 설명입니다.

Applying stage magic principles (무대 마술 원리 적용하기): AI의 작동 원리를 감추고 신기하게 보이도록 연출하는 방법

Applying magic metaphors (마법 비유 사용하기): AI를 설명할 때 마법에 관한 표현을 활용하여 신비롭고 놀라운 존재로 느껴지게 하는 방법

Summoning AI as supernatural entity (AI를 초자연적 존재로 소환하기): AI를 마치 유령이나 요정처럼 묘사해서 마법 같은 존재로 여기게 만드는 방법

Materializing beliefs (믿음을 실체화하기): 사람들이 AI에 대해 막연히 가진 환상적 기대감을 실제 경험을 통해 AI의 한계와 가능성을 이해하게 되는 방법

Manifesting mechanisms (메커니즘 드러내기): AI의 작동 원리를 설명하고 오류를 보여줌으로써 기계적인 측면을 강조하고 신비로움을 걷어내는 방법

Play with AI (AI와 놀아보기): AI와 재미있게 상호작용하면서 친근하고 익숙하게 느끼도록 만드는 방법

Presuming AI (AI를 당연하게 여기기): AI가 상호작용에 직접적으로 나타나지 않은 채 사용되고 있다는 것만 암시하는 방법

In conclusion

• 자율 에이전트에 대한 분류법(Taxonomy for Autonomous Agents)[46] 은 인공 에이전트와 다중 에이전트 시스템에 대한 사고의 기초가 되었고, 사회적 상호작용 로봇 분류법(Socially Interactive Robots taxonomy)[44]은 인간-로봇 상호작용(HRI) 디자이너에게 중요한 자원이 되었던 것처럼 AI가 가진 환상성을 조절하는 디자인 요소를 구분해본 이 논문은 앞으로의 관련 연구에 좋은 자원이 될 것이다. 이점에서 인용수를 지켜볼만하다.

• 매혹적인 요소와 실망을 주는 요소가 모두 존재할 때 실망을 주는 요소가 더 지배적인 경향을 논문에서 확인했다.

Reference papers can be found below

https://dl.acm.org/doi/10.1145/3613904.3641954

If you have any questions, please contact me at the email address below.

ehlkim0215@gmail.com