Project Populating Virtual Environments

Our multi-user VR systems allow multiple local users to jointly explore large 3D scanned environments and they also support telepresence meetings with 3D video avatars. Here, two remote and two local users meet inside a scanned model of a castle. (3D model courtesy of ArcTron 3D GmbH)

Prof. Dr. Bernd Fröhlich
M.Sc. Tim Weißker
M.Sc. Adrian Kreskowski
M.Sc. Carl-Feofan Matthes
Dipl.-Mediensys.wiss. André Kunert
Dr. Stephan Beck
Dr. Alexander Kulik


15 Credits Medieninformatik (B.Sc.)
15 Credits Computer Science and Media (M.Sc.)
15 Credits Computer Science for Digital Media (M.Sc.)

Beschreibung:

Virtuelle Realität (VR) birgt ein bisher ungenutztes Potenzial als Bildungsmedium. Große, komplexe und interaktive 3D-Strukturen können aus jeder Perspektive betrachtet und erlebt werden. VR bietet eine Plattform für fundierte Diskussionen über die visualisierten Daten und für kollaboratives Lernen.

Unsere Mehrbenutzer-VR-Systeme ermöglichen es mehreren lokalen  Benutzern, gemeinsam große 3D gescannte Umgebungen zu erkunden und sie unterstützen auch Telepresence-Meetings mit 3D-Video-Avataren. Die Aktivitäten der Benutzer in diesen Umgebungen können auch kontinuierlich erfasst und jederzeit wiedergegeben werden.

In diesem Projekt wollen wir diese Funktionalitäten nutzen, um große 3D-Scans historischer Orte mit 3D-Avatar-Aufnahmen von Personen in Interaktion mit der virtuellen Umgebung anzureichern. Dadurch können beispielsweise Experten ihre Erkenntnisse über die dargestellten Daten neuen Nutzern präsentieren oder die Verwendung der gescannten Artefakte vorführen.

Zu den wesentlichen technischen Herausforderungen des Projektes gehören die ausgabesensitive Darstellung mehrerer zeitvariabler 3D-Datensätze, das Design und die Implementierung effektiver Autorenwerkzeuge und komfortabler Gruppennavigationstechniken für das gemeinsame flanieren durch diese dynamischen virtuellen Umgebungen.

Lerninhalte:

  • Kollaborative virtuelle Realität und Telepresence-Technologie

  • Aufbau und Kalibrierung von 3D-Sensor-Systemen mit quelloffenen Softwarewerkzeugen

  • Entwurf und Implementierung einer Schnittstelle für Audioaufnahmen mit quelloffenen Softwarewerkzeugen

  • Entwurf und Implementierung eines Autorenwerkzeugs zur Aufnahme und Einbettung von 3D Video-Avataren in virtuelle Umgebungen

  • Ausgabesensitive 3D-Renderingtechniken

  • Softwareentwicklung für virtuelle Realität (mit Avango-Guacamole, Python)

Anforderungen:

  • Erfahrung in der Softwareentwicklung mit C++ und Python

  • Grundlagen der Computergrafik

Voraussetzungen:

  • Nachweisbare Erfahrung in der Softwareentwicklung mit C++ und Python
  • nachweisbare Kenntnisse von Grundlagen der Computergrafik

Leistungsnachweis:

  • aktive Mitarbeit im Projekt
  • aktive Beteiligung an der Softwareentwicklung
  • Entwicklung eines funktionsfähigen Prototypen
  • zwei Vorträge, Abschlusspräsentation, schriftliche Dokumentation

Richtet sich an:

  • Bachelor/Master CS4M & HCI

Description:

Virtual reality (VR) holds a hitherto untapped potential as an educational medium. Large, complex and interactive 3D structures can be viewed and experienced from any perspective. VR offers a platform for well-founded discussions about the visualized data and for collaborative learning.

Our multi-user VR systems allow multiple local users to jointly explore large 3D scanned environments and they also support telepresence meetings with 3D video avatars. The activities of users in these environments can also be captured and replayed at any time.

In this project we want to use these functionalities to enrich large 3D scans of historical places with 3D avatar recordings of people interacting with the virtual environment. This allows experts, for example, to present their findings about the displayed data to new users or demonstrate the use of the scanned artifacts.

The challenges include output sensitive rendering of multiple time-varying 3D datasets, the design and implementation of effective authoring tools and comfortable group navigation techniques for joint promenading through these dynamic virtual environments.

You will learn about and work on the following topics:

  • Collaborative virtual reality and telepresence technology

  • Setup and calibration of 3D capturing systems using open source frameworks

  • Design and implementation of an audio-recording module using open source frameworks

  • Design and implementation of authoring tools for populating 3D scenes with 3D video avatars

  • Output-sensitive 3D rendering techniques

  • Software development for Virtual Reality (Avango-Guacamole, Python)

Requirements:

  • Proficient programming skills in C++ and Python (e.g. successful completion of the course on programming languages)

  • Solid understanding of computer graphics (e.g. successful completion of the course on computer graphics)

Assessment:

  • active participation in the project
  • active participation in software development and development of a functional prototype
  • two presentations, final presentation, written documentation