WO2025026477A1

WO2025026477A1 - Virtual user interface

Info

Publication number: WO2025026477A1
Application number: PCT/DE2024/000059
Authority: WO
Inventors: Mazda SABONY
Original assignee: Individual
Current assignee: Individual
Priority date: 2023-07-28
Filing date: 2024-07-18
Publication date: 2025-02-06
Anticipated expiration: 2026-01-28

Abstract

The invention relates to a virtual user interface between the user terminal device and a cloud with its hardware for execution of an application. The application is executed directly by the terminal device by the application being installed on or uploaded to a remote server or computer.

Description

Virtuelle Benutzerschnittstelle Virtual User Interface

[01] Die Erfindung betrifft eine virtuelle Benutzerschnittstelle zwischen dem Endgerät eines Benutzers und einer Cloud mit ihrer Hardware zur Ausführung einer Anwendung. [01] The invention relates to a virtual user interface between a user's terminal and a cloud with its hardware for executing an application.

[02] Zur vereinfachten Darstellung werden die folgenden Abkürzungen verwendet: [02] For the sake of simplicity, the following abbreviations are used:

• App: Application / Applikation / Anwendung • App: Application / Application / Application

• BM: Baremetal: Ein Server, Computer eine Hardware, also physische Computer. Bei dieser Serverart oder Computerart muss die Software (beispielsweise das Betriebssystem oder andere Software) nicht vorinstalliert sein • BM: Baremetal: A server, computer, hardware, i.e. physical computers. This type of server or computer does not need to have the software (e.g. the operating system or other software) pre-installed

• Cloud: Rechenressourcen (Computer Resources, Beschleuniger, oder Servers), die der Anwender fern zugreifen und benutzen kann. Die Rechenressourcen können o On-Prem oder private: im eigenen Gelände, Infrastruktur oder unter eigner Kontrolle sein, o Public: bei einem fremden Anbieter oder o Hybrid: das heißt, man hat einen Mix zwischen eignen und fremden Rechenressourcen. • Cloud: computing resources (computer resources, accelerators, or servers) that the user can access and use remotely. The computing resources can be o On-Prem or private: on your own premises, infrastructure or under your own control, o Public: with a third-party provider or o Hybrid: that means you have a mix of your own and third-party computing resources.

Die Cloud kann die SW, die Rechenressourcen managt, verwaltet oder steuert beinhalten. Diese SW wird oft CMS genannt. The cloud can include the SW that manages, administers or controls computing resources. This SW is often called CMS.

• CM: Cloud Management • CM: Cloud Management

• CMS: Cloud Management Software/Lösung (Solution) • CMS: Cloud Management Software/Solution

• Container: Container sind eine Art light- Version von virtuellen Maschinen. Während virtuelle Maschinen die Hardware eines Rechners, also den Prozessor, die • Containers: Containers are a kind of light version of virtual machines. While virtual machines use the hardware of a computer, i.e. the processor, the

Bestätigungskopie Festplatte, usw. virtualisieren, virtualisieren Container das Betriebssystem. Dies wird auch Containervirtualisierung genannt. confirmation copy hard drive, etc., containers virtualize the operating system. This is also called container virtualization.

• Computer: PC, Laptop, Rechner, Beschleuniger oder Server • Computer: PC, laptop, calculator, accelerator or server

• CS: Computer oder HW-Ressourcen • CS: Computer or HW resources

• CSP: Cloud Dienstleister / Cloud Service Provider, diejenige, der die Cloud managt oder/und verwaltet oder/und steuert. Das kann der Unternehmer selbst sein (On- Prem oder Hybrid Cloud) oder es können fremde Anbieter sein (On-Prem/private, Public oder Hybrid Cloud). • CSP: Cloud service provider, the one who manages and/or administers and/or controls the cloud. This can be the company itself (on-prem or hybrid cloud) or it can be third-party providers (on-prem/private, public or hybrid cloud).

• Endgerät: Computer, Smartphone, Handy oder Tablet. • Device: computer, smartphone, cell phone or tablet.

• GUI: Grafische Anwender Schnittstelle (Graphical User Interface) • GUI: Graphical User Interface

• HW: Hardware (Computer, PC, Laptop, Rechner, Beschleuniger oder Server) • HW: Hardware (computer, PC, laptop, calculator, accelerator or server)

• HPC: High-performance Computing / Hoch Leistungsrechner • HPC: High-performance computing

• Intranet: Das Intranet ist ein eigenständiges Netz, das nicht unmittelbar mit dem Internet verbunden ist, aber auf dieselbe Art und Weise funktioniert • Intranet: The intranet is a standalone network that is not directly connected to the Internet, but functions in the same way

• PC: Personal Computer. Rechner • PC: Personal Computer. Calculator

• RUN: Ausfuhren • RUN: Exports

• SW: Software • SW: Software

• TM: Terminal, Endgerät, Zugangsschnittstelle im Endgerät. Das kann ein PC, ein Computer, ein Laptop oder ein mobiles Gerät (z.B. ein Handy) sein • TM: Terminal, end device, access interface in the end device. This can be a PC, a computer, a laptop or a mobile device (e.g. a cell phone)

• User: Benutzer oder Anwender • User: User or operator

UI (User Interface): Anwender-Schnittstelle • VCAI :Virtuelle Cloud-Anwendungsschnittstelle UI (User Interface): User interface • VCAI :Virtual Cloud Application Interface

• VM: Virtuelle Maschine • VM: Virtual Machine

• WEB: Web-Oberfläche oder Web-Schnittstelle • WEB: web interface or web user interface

[03] Bei derartigen Schnittstellen liegt das folgende Problem vor. [03] The following problem exists with such interfaces.

[04] Der CSP stellt eine Verbindung zwischen einem Benutzer und den HW- Ressourcen des CSP her. [04] The CSP establishes a connection between a user and the CSP's hardware resources.

[05] Das dabei entstehende Problem wird anschaulich an einer Gegenüberstellung CSP (Cloud-Dienstleister) versus Taxidienst erklärt. [05] The resulting problem is clearly explained by comparing CSP (cloud service provider) versus taxi service.

[06] Wie man die Cloud heute nutzt (Beispiel Taxi) [06] How to use the cloud today (taxi example)

[07] Wenn Sie ein Taxi bestellen, um von A nach B zu fahren, rufen Sie den Taxidienst an und fragen nach einem Taxi (ein Auto mit Fahrer). Dieses fährt Sie von A nach B. Der Auftrag ist erledigt. [07] When you order a taxi to go from A to B, you call the taxi service and ask for a taxi (a car with a driver). This will take you from A to B. The job is done.

[08] Der Taxidienst wird Sie nicht fragen, was für ein Automodell VW, BW, ... usw., wie viele PS, wie alt, ....etc. Sie bekommen einfach ein Auto und dieses Auto wird Ihre Aufgabe erfüllen, nämlich von A nach B fahren. [08] The taxi service will not ask you what car model VW, BW, ... etc., how many horsepower, how old, ....etc. You simply get a car and this car will do your job, namely drive you from A to B.

[09] Analog zum Taxidienst kann dies an einer Cloud beschrieben werden. Wenn Sie in der Cloud versuchen, eine Anwendung zu starten, z.B. ein Kl-Modell zu trainieren oder eine Simulation durchzuführen, dann laufen die folgenden Schritte ab: [09] This can be described in a cloud analogous to a taxi service. If you try to start an application in the cloud, e.g. to train a Kl model or to perform a simulation, the following steps take place:

[10] Schritt 1 : Anmeldung bei Ihrem CSP [10] Step 1 : Register with your CSP

[11] Schritt 2: Konfigurieren Sie Ihre HW, die Sie benötigen: Sie werden gefragt, wie viele CPU-Kerne, Speichergröße, welche Art von GPU, ...usw. [12] Am Ende erhalten Sie einen Zugang zu einer bestimmten HW-Ressource (gemeinsam genutzt, dediziert oder viele Knoten) in Form von BM, VM oder Container. [11] Step 2: Configure your HW you need: You will be asked how many CPU cores, memory size, what type of GPU, ...etc. [12] In the end, you get access to a specific HW resource (shared, dedicated or many nodes) in the form of BM, VM or container.

[13] Die HW, die Sie erhalten, kann Ihre Anwendung enthalten oder auch nicht. [13] The HW you receive may or may not include your application.

[14] Schritt 3: Der Benutzer fuhrt die Anwendung auf diesem speziellen Rechner aus oder installiert und fuhrt sie aus. In einigen Fällen erhalten Sie eine vorinstallierte VM (virtuelle Maschine) oder einen Container mit einer vorinstallierten Anwendung. [14] Step 3: The user runs or installs and runs the application on that specific machine. In some cases, you get a pre-installed VM (virtual machine) or container with a pre-installed application.

[15] In diesem Fall hat der Benutzer Zugriff auf eine dedizierte HW (BM, VM oder Container) und muss seine Anwendung auf dieser HW ausfuhren. [15] In this case, the user has access to a dedicated HW (BM, VM or container) and must run his application on this HW.

[16] Dies ist in den Figuren 1 und 2 dargestellt. [16] This is shown in Figures 1 and 2.

[17] Das Problem in der Cloud, insbesondere für KI- und HPC-Benutzer, ist die erhebliche Barriere, die sie daran hindert, ihre Anwendungen direkt auszuführen. Diese Barriere entsteht durch die Komplexität und die technischen Anforderungen bei der Einrichtung und Verwaltung der Cloud-Infrastruktur für diese speziellen Anwendungen. [17] The problem in the cloud, especially for AI and HPC users, is the significant barrier that prevents them from running their applications directly. This barrier is created by the complexity and technical requirements of setting up and managing the cloud infrastructure for these specific applications.

[18] Ein weiteres Problem ist die Sicherheit: Da viele Anwender gleichzeitig die Cloud oder Rechenressourcen benutzen, entsteht ein erhebliches Sicherheitsrisiko. Dadurch kann einzelnen Usern ein angemessener Datenschutz nicht mehr garantiert werden. [18] Another problem is security: Since many users use the cloud or computing resources at the same time, this creates a significant security risk. As a result, individual users can no longer be guaranteed adequate data protection.

[19] Für Kl-Anwender und Unternehmen mit begrenzten technischen Kenntnissen kann der Zugriff auf diese Ressourcen und ihre Nutzung auf herkömmlichen Cloud- Plattformen eine entmutigende Aufgabe sein. Viele Cloud-Dienste richten sich in erster Linie an Entwickler oder IT-Fachleute und setzen ein gewisses Maß an Wissen und Erfahrung mit Cloud-Management voraus. Dies führt dazu, dass nicht-technische Nutzer, die vielleicht Experten für KI oder HPC sind, aber nicht über das erforderliche Cloud- Know-how verfügen, ihre Anwendungen nicht direkt ausführen können. [20] Dieses Problem wird mit einer virtuellen Cloud-Anwendungsschnittstelle (VCAI) mit den Merkmalen des Patentanspruchs 1 gelöst. Vorteilhafte Weiterbildungen sind Gegenstand der Unteransprüche. [19] For AI users and organizations with limited technical knowledge, accessing and using these resources on traditional cloud platforms can be a daunting task. Many cloud services are primarily aimed at developers or IT professionals and require a certain level of knowledge and experience with cloud management. This results in non-technical users, who may be experts in AI or HPC but lack the necessary cloud know-how, not being able to run their applications directly. [20] This problem is solved with a virtual cloud application interface (VCAI) having the features of patent claim 1. Advantageous further developments are the subject of the subclaims.

[21] Die VCAI stellt mit einer oder mehreren Clouds eine virtuelle und keine direkte Verbindung zwischen einem Nutzer und seiner Anwendung oder seinen Anwendungen her. Diese Verbindung kann BM, Container, VM oder anderer Art sein. [21] The VCAI uses one or more clouds to establish a virtual, rather than a direct, connection between a user and his or her application or applications. This connection can be BM, container, VM or other type.

[22] VCAI ist eine virtuelle Benutzerschnittstelle für die Cloud (privat, öffentlich oder hybrid), über die eine Anwendung direkt vom Endgerät des Benutzers aus ausgeführt werden kann. [22] VCAI is a virtual user interface for the cloud (private, public or hybrid) that allows an application to be executed directly from the user's device.

[23] In diesem Szenario führt der Nutzer seine Anwendung direkt von seinem Endgerät (z.B. PC) aus. VCAI wählt die richtigen HW-Ressourcen aus und fuhrt die Anwendung im Namen des Benutzers aus. Die VCAI wählt einen oder mehrere Rechenknoten (gemeinsam genutzte oder viele Knoten), auf dem die Anwendung bereit ist oder gerade noch rechtzeitig vorbereitet wird. [23] In this scenario, the user runs his application directly from his device (e.g. PC). VCAI selects the right HW resources and executes the application on behalf of the user. The VCAI selects one or more compute nodes (shared or many nodes) on which the application is ready or is prepared just in time.

[24] Dies fuhrt zu den folgenden Vorteilen: [24] This leads to the following advantages:

• Die VCAI kann einen virtuellen User (Benutzer) generieren, um sich mit der Cloud zu verbinden. • The VCAI can generate a virtual user to connect to the cloud.

• Die VCAI kann auch ein lokales Netzwerk bauen, falls das nötig wäre. • The VCAI can also build a local network if necessary.

• Der Nutzer weiß nicht, wo die Anwendung ausgeführt wird. • The user does not know where the application is running.

Der Nutzer hat zwar die Kontrolle über die Anwendung selbst, nicht aber über die HW. Die Anwendungskonfiguration wirkt sich jedoch auf die HW- Konfiguration aus. • Die Rechenressourcen in der Cloud werden in diesem Fall mit einem User (VCAI) verbunden. Dieser User kann aber mehrere virtuelle User generieren und sich mit den Rechenressourcen in der Cloud verbinden. The user has control over the application itself, but not over the hardware. However, the application configuration affects the hardware configuration. • In this case, the computing resources in the cloud are connected to a user (VCAI). However, this user can generate several virtual users and connect to the computing resources in the cloud.

[25] Die VCAI kann ein Teil des CMS sein, sie kann ein Teil der SW sein, die Rechenressourcen steuert und/oder verwaltet und/oder managt, sie kann vor dem CMS funktionieren, sie kann nach dem CMS funktionieren und sie kann die CMS Funktionen als gesamte Lösung beinhalten. [25] The VCAI can be a part of the CMS, it can be a part of the SW that controls and/or administers and/or manages computing resources, it can operate before the CMS, it can operate after the CMS and it can include the CMS functions as a whole solution.

[26] Dies ist in den Figuren 3 bis 7 dargestellt. [26] This is shown in Figures 3 to 7.

[27] Die wesentlichen Vorteile der Erfindung liegen in der Sicherheit und der Einfachheit. [27] The main advantages of the invention are its safety and simplicity.

[28] Sicherheit: VCAI verhindert den direkten Zugang der Anwender zu den Rechenressourcen in der Cloud und damit werden die Daten einzelner User/ Anwender vollständig geschützt. [28] Security: VCAI prevents users from directly accessing computing resources in the cloud, thus fully protecting individual user data.

[29] Vereinfachung: Es wird eine Cloud-Lösung mit dem Ziel vorgeschlagen, die Zugänglichkeit und Nutzung von Cloud-Diensten zu revolutionieren. VCAI konzentriert sich darauf, neue Cloud-Endnutzer insbesondere in den Bereichen KI und HPC zu befähigen, und überwindet Barrieren, die früher den Zugang zu komplexen Kl-Trainings und KI-Inferenzen begrenzten. Auf diese Weise ermöglicht VCAI den Anwendern, das Potenzial von KI in ihrer eigenen Umgebung voll auszuschöpfen, auch ohne fortgeschrittene technische Kenntnisse. Darüber hinaus vereinfacht VCAI die Kommerzialisierung von KI- und HPC-Anwendungen, indem es einen optimierten Marktplatz bietet, auf dem Entwickler ihre Zielgruppe direkt ansprechen können, während Endnutzer problemlos leistungsstarke Anwendungen für ihre spezifischen Anforderungen finden können. [29] Simplification: A cloud solution is proposed with the aim of revolutionising the accessibility and use of cloud services. VCAI focuses on empowering new cloud end-users, particularly in the areas of AI and HPC, and overcomes barriers that previously limited access to complex AI training and AI inference. In this way, VCAI enables users to fully exploit the potential of AI in their own environment, even without advanced technical knowledge. In addition, VCAI simplifies the commercialisation of AI and HPC applications by providing a streamlined marketplace where developers can directly target their audience, while end-users can easily find powerful applications for their specific needs.

[30] VCAI überbrückt die Lücke zwischen KI/HPC-Nutzem und Cloud-Ressourcen.[30] VCAI bridges the gap between AI/HPC users and cloud resources.

VCAI vereinfacht den Prozess und die Schnittstelle für die Ausführung komplexer KI- und HPC-Anwendungen, indem es die Komplexität der Cloud-Verwaltung abstrahiert. Es bietet benutzerfreundliche Webschnittstellen und vorkonfigurierte Umgebungen und Hardwareressourcen, die es Anwender und Domänenexperten erleichtern, die Leistung der Cloud zu nutzen, ohne dass sie über tiefes technisches Wissen verfügen müssen. VCAI simplifies the process and interface for executing complex AI and HPC applications by abstracting the complexity of cloud management. It provides user-friendly web interfaces and pre-configured environments and hardware resources that make it easy for users and domain experts to leverage the power of the cloud without requiring deep technical knowledge.

[31] Indem VCAI die Barriere zwischen KI-/HPC-Benutzem und Cloud-Ressourcen minimiert, können Anwender, Forscher, Entwickler und Unternehmen das volle Potenzial von Spitzentechnologien auszuschöpfen, ohne durch Cloud-bezogene Herausforderungen behindert zu werden. VCAI ist eine virtuelle Benutzerschnittstelle für die Cloud zur Ausführung von Anwendungen direkt vom Endgerät aus. Der Benutzer kann jede Anwendung direkt von seinem End-Gerät aus ausfiihren, die auf dem Remote- Server/Computer installiert/geladen werden kann. [31] By minimizing the barrier between AI/HPC users and cloud resources, VCAI enables users, researchers, developers and businesses to realize the full potential of cutting-edge technologies without being hindered by cloud-related challenges. VCAI is a virtual user interface for the cloud to run applications directly from the end device. The user can run any application directly from their end device that can be installed/loaded on the remote server/computer.

[32] Man kann bereits im Stand der Technik eine App aus einem Endgerät ausführen aber dies entsteht durch die Verbindung zu dem Remote-Server oder Computer. Das heißt, der Nutzer hat eine virtuelle Schnittstelle zu seinem Computer/Server in der Cloud und über diese Schnittstelle führt er die Befehle aus. Beim VCAI hat der Nutzer eine virtuelle Schnittstelle zu der Anwendung (App) und nicht zu dem Computer/Server in der Cloud. [32] It is already possible to run an app from a device using the current technology, but this is done through the connection to the remote server or computer. This means that the user has a virtual interface to his computer/server in the cloud and executes the commands via this interface. With VCAI, the user has a virtual interface to the application (app) and not to the computer/server in the cloud.

[33] Die virtuelle Schnittstelle könnte die für die Anwendung passenden Hardware- Ressourcen auswählen und die Anwendung im Namen des Benutzers ausführen, da VCAI ein neuer Zusatz oder eine zusätzliche Option/Funktion ist und das existierende Verfahren nicht ausgeschlossen wird. [33] The virtual interface could select the hardware resources appropriate for the application and execute the application on behalf of the user, since VCAI is a new addition or an additional option/feature and does not exclude the existing method.

[34] der Benutzer muss keine Kontrolle über die verwendete Hardware hat und er muss nicht wissen, wo die Anwendung ausgeführt wird, da VCAI ein neuer Zusatz ist oder eine zusätzliche Optionen/Funktion. Das bereits bekannte Verfahren muss hierbei nicht ausgeschlossen werden. [34] the user does not need to have control over the hardware used and does not need to know where the application is running, since VCAI is a new addition or an additional option/feature. The already known method does not have to be excluded.

[35] Wenn die Konfiguration der Anwendung die Konfiguration der Hardware bestimmt, ist zu beachten, dass die der Nutzer diese Konfiguration der Anwendung und wie (langsam, schnell, ... etc.) sie ausgefuhrt werden soll, bestimmt. Die Figur 6 ? zeigt nur als Beispiel, wie es aussehen könnte, wenn der Nutzer eine Kl-Trainings- Anwendung konfiguriert. [35] If the configuration of the application determines the configuration of the hardware, it should be noted that the user has the right to change this configuration of the application and how (slow, fast, ... etc.) it should be carried out. Figure 6 shows only as an example what it could look like if the user configures a Kl training application.

[36] Die folgenden Figuren zeigen in [36] The following figures show in

Fig. 1 und 2 schematisch den Stand der Technik, Fig. 1 and 2 schematically show the state of the art,

Fig. 3 bis 7 erfindungsgemäße Anwendungsbeispiele. Fig. 3 to 7 application examples according to the invention.

[37] Die Anwendungsbeispiele zeigen, wo VCAI eingesetzt wird. Dies sind nur Beispielszenarien. [37] The application examples show where VCAI is used. These are only example scenarios.

[38] VCAI kann als neue Funktion zwischen einem existierenden Cloud Management und der Computer-Ressource eingesetzt werden. VCAI kann auch als vollständiges Cloud Management funktionieren. VCAI kann auch direkt bei der Nutzer-Schnittstelle eingesetzt werden. [38] VCAI can be used as a new function between an existing cloud management and the computing resource. VCAI can also function as a complete cloud management. VCAI can also be used directly in the user interface.

Claims

Patent claims:

1. Virtual user interface between a user's terminal device and a cloud with its hardware for executing an application, characterized in that the application is executed directly by the terminal device by installing or loading the application on a remote server or computer.

2. Virtual user interface according to claim 1, characterized in that it selects the hardware resources suitable for the application and executes the application on behalf of the user.

3. Virtual user interface according to one of the preceding claims, characterized in that the user has no control over the hardware used and does not know where the application is executed.

4. Virtual user interface according to one of the preceding claims, characterized in that the configuration of the application determines the configuration of the hardware.

5. Computer with a virtual user interface according to one of the preceding claims.