Sound Sculpt Интерактивті Музыкалық Синтезатор by Yiqi Zhao

Sound Sculpt Интерактивті Музыкалық Синтезатор by Yiqi Zhao is a highly esteemed winner of the very prestigious 2025 A' Design Award Темір жүлдесі in Сандық өнер Competition Category.

ТемірСандық өнер· 2025

Sound Sculpt Интерактивті Музыкалық Синтезатор

by Yiqi Zhao

Client: MIT Media Lab

A' Design Award Темір жүлдесі Winner in Сандық өнер Category

35,098
Verified Award Winner
Verify Award Status for #168315

Visit Site View at A' Design Award Press Release Award Badge

Colors

The Design

About Sound Sculpt Интерактивті Музыкалық Синтезатор

Дыбыстың қозғалыспен мүсінделетін әлемін елестетіп көріңіз, бұл таң қалдыратын аудио-визуалды ландшафт жасайды. SoundSculpt - бұл кеңістіктік дыбысты, қозғалысты және көрнекі өнерді біріктіретін генеративті музыкалық құрал. Дәстүрлі мүсіншілік өнерінен шабыт ала отырып, ол пайдаланушыларды шығармашылық процестің орталығына айналдырады. AR Frames арқылы бас қозғалыстары ұсталып, MIDI шеңбері арқылы нақты уақыт режимінде аудио модуляцияға түрленеді. Runtime қозғалтқышында әзірленген SoundSculpt жасаушы мен жасалым арасындағы шекараларды бұлдырлататын, көркемдік зерттеуді қайта анықтайтын иммерсивті тәжірибе ұсынады.

The Recognition

About the A' Design Award Темір жүлдесі

Sound Sculpt Интерактивті Музыкалық Синтезатор – A' Design Award Темір жүлдесінің жеңімпазы, жақсы жасалған туындылардан күтілетін кәсіби және өндірістік талаптарға сай келетін жақсы дизайндарға берілетін беделді мойындау. Темір жеңімпаздар авторларының зор шеберлігін, жоғары мамандануын, сарапшылық түсінігін және шығармашылық қабілетін көрсетеді. Sound Sculpt Интерактивті Музыкалық Синтезатор жоғары бағаланатын, сүйсіне қарайтын, қадірлі, практикалық әрі жаңашыл туынды болады деп күтіледі. Бұл Темір жүлдеге ие дизайн салалық үздік тәжірибелерді біріктіреді және біліммен, дарынмен байланысқан құзыретті техникалық сипаттарға ие. Sound Sculpt Интерактивті Музыкалық Синтезатор мұқияттылығымен құрметке ие және өмір сапасын жақсартып, әлемді жақсы жерге айналдыруға арналған.

Behind the Design

Press Kit

Credits, team members and technical details provided by the designer.

Unique Properties: Revolutionizing Perception through Immersive Music Making
Imagine sculpting with sound, where body movement generates a mesmerizing audio visual landscape. SoundSculpt is an innovative, generative music tool that fuses spatial sound, motion, and visual art, redefining the boundaries of creative expression. By harnessing the power of Bose AR Frame, this interface enhances perception performance, providing a novel medium for artistic exploration, emotional regulation, and mental well being.
Dimensions & Packaging: The system uses a MIDI framework to map Bose Frames' head orientation data to sound pitch and volume, then transferred to virtual bubble manipulation is achieved through touch inputs with C# scripts. The integration of synesthesia principles enhances sensory perception, creating a holistic flow that bridges the gap between physical and digital art forms.
Size: 7.2 x 3.1 x 2.9 inches
Weight: 12.31 ounces
Lenses: Polarized
Water Resistance: IPX2 rating
Battery Life: Up to 5.5 hours
Bluetooth Range: 30ft
Tags: AI, generative AI, spatial audio, digital media, unity, music, wearable tech, Bose, XR, AR
Production Technology: SoundSculpt employs XR tech, integrating spatial audio and visual processing for immersive experiences. Bose Frames, with gyro sensors, capture 6 dof head movements, translating them into real-time audio modulation via a MIDI framework. Developed on Unity with C# scripts, it enables real-time user interaction. Mesh deformation and vertex manipulation allow dynamic bubble surface control, creating a responsive interface that enhances engagement and emotional connection.
Design Challenge: The hardest part was integrating multi sensory feedback into a seamless flow. Creatively, it was challenging to synchronize audio-visual elements with inputs in real-time. Internally, balancing human vulnerabilities, historical concepts with modern tech required innovative thinking. Externally, limitations in sensor accuracy and data processing posed obstacles. Overcoming these required iterative testing and leveraging cutting-edge XR technology to ensure fluid interaction and emotional impact.
Research: This HCI research aims to develop an immersive tool for emotion regulation. Using a mixed reality approach, data was collected via user testing and biometric feedback with Bose Glasses and Real-time 3D engine. Participants included designers and non-designers. Results showed enhanced perception of spatial volume, sound, and motion, with a more stable emotion stage. Insights suggest adoption in psychiatry with art therapy, impacting society by improving emotional well-being with playful creation.
Inspiration: SoundSculpt is inspired by the tactile art of sculpting, where shaping materials evokes profound emotional expression. Echoing ancient pottery, where your hands transform raw material into art, SoundSculpt revolutionizes this dynamic by turning it inside out, empowering users to become integral to the creative process. By integrating spatial audio and visual art, I offer you an immersive experience that blurs the boundaries between creator and creation, redefining interaction for a new era.
Project Duration: The project began in fall 2019 at the MIT Media Lab in Cambridge, MA, and concluded in summer 2020. It was subsequently exhibited to the Bose Frame AR team at Bose Corporation in Framingham, MA.
Operation Flow: SoundSculpt immerses users within a virtual bubble, enabling them to shape its surface through intuitive gestures. As they tilt their heads or press buttons, Bose Frames capture these actions, converting them into dynamic audio-visual feedback. This interaction fosters a seamless cycle of "listen," "sculpt," and "art generation," empowering users to transform their environment. The system's innovative design ensures a fluid, captivating experience that boosts creativity and emotional well-being.
Patents: Copyrights belong to Yiqi Zhao, 2025.
Image Credits: Image 1: Yiqi Zhao, 2024.
Image 2: Yiqi Zhao, 2024.
Image 3: Yiqi Zhao, 2024.
Image 4: Yiqi Zhao, 2024.
Image 5: Yiqi Zhao, 2024.
Video Credits: Yiqi Zhao, 2024.