[go: up one dir, main page]

WO2020011864A1 - Procede de simulation d'une situation dentaire - Google Patents

Procede de simulation d'une situation dentaire Download PDF

Info

Publication number
WO2020011864A1
WO2020011864A1 PCT/EP2019/068558 EP2019068558W WO2020011864A1 WO 2020011864 A1 WO2020011864 A1 WO 2020011864A1 EP 2019068558 W EP2019068558 W EP 2019068558W WO 2020011864 A1 WO2020011864 A1 WO 2020011864A1
Authority
WO
WIPO (PCT)
Prior art keywords
image
orthodontic appliance
dental
neural network
historical
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Ceased
Application number
PCT/EP2019/068558
Other languages
English (en)
Inventor
Philippe Salah
Thomas PELLISSARD
Guillaume GHYSELINCK
Laurent Debraux
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Dental Monitoring SAS
Original Assignee
Dental Monitoring SAS
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Dental Monitoring SAS filed Critical Dental Monitoring SAS
Priority to US17/259,516 priority Critical patent/US12303346B2/en
Priority to EP19736741.0A priority patent/EP3821394A1/fr
Priority to BR112021000501-3A priority patent/BR112021000501A2/pt
Priority to CN201980046736.3A priority patent/CN112424820A/zh
Publication of WO2020011864A1 publication Critical patent/WO2020011864A1/fr
Anticipated expiration legal-status Critical
Priority to US19/183,985 priority patent/US20250248790A1/en
Ceased legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/40ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61CDENTISTRY; APPARATUS OR METHODS FOR ORAL OR DENTAL HYGIENE
    • A61C13/00Dental prostheses; Making same
    • A61C13/0003Making bridge-work, inlays, implants or the like
    • A61C13/0004Computer-assisted sizing or machining of dental prostheses
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61CDENTISTRY; APPARATUS OR METHODS FOR ORAL OR DENTAL HYGIENE
    • A61C7/00Orthodontics, i.e. obtaining or maintaining the desired position of teeth, e.g. by straightening, evening, regulating, separating, or by correcting malocclusions
    • A61C7/002Orthodontic computer assisted systems
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F30/00Computer-aided design [CAD]
    • G06F30/20Design optimisation, verification or simulation
    • G06F30/27Design optimisation, verification or simulation using machine learning, e.g. artificial intelligence, neural networks, support vector machines [SVM] or training a model
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/0464Convolutional networks [CNN, ConvNet]
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • G06N3/09Supervised learning
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/20ICT specially adapted for the handling or processing of medical images for handling medical images, e.g. DICOM, HL7 or PACS
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/20ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for computer-aided diagnosis, e.g. based on medical expert systems
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/50ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for simulation or modelling of medical disorders
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/24Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor for the mouth, i.e. stomatoscopes, e.g. with tongue depressors; Instruments for opening or keeping open the mouth

Definitions

  • the present invention relates to a simulation method for generating a hyperrealistic dental view simulating the wearing of an orthodontic appliance.
  • Patient adherence to orthodontic treatment is important for the success of this treatment.
  • wearing an orthodontic appliance changes the patient's appearance, which can discourage him from carrying out the treatment.
  • An object of the invention is to respond, at least partially, to this need.
  • the invention provides a simulation process comprising the following steps:
  • such a neural network is capable of transforming the original image in a surprisingly realistic manner.
  • a method according to the invention thus makes it possible to integrate into the original image a representation of an orthodontic appliance, or to modify an orthodontic appliance represented on the original image, or to delete an orthodontic appliance represented on the 'original image. The patient can thus benefit from a simulation that allows him to properly measure the visual impact of wearing the orthodontic appliance or changing the orthodontic appliance.
  • a method according to the invention is remarkable in that the neural network is trained to create a modified image from the original image which is supplied to it.
  • This process is therefore quite different from a process in which, for example, we add to an image an element, for example a representation of an existing orthodontic appliance.
  • the neural network creates this representation.
  • This representation is therefore not the reproduction of a real orthodontic appliance or a three-dimensional model of a real orthodontic appliance, but is generated by the neural network in an artificial way, at the same time as the rest of the image. .
  • the representation of the orthodontic appliance is very realistic and allows a good simulation for the patient, as shown in Figure 3B.
  • the training of the neural network teaches him to represent the orthodontic appliance in the context of the original image, with the corresponding contrast, sharpness, shadows and reflections.
  • the simulation is therefore much more realistic than the simple addition, in an image representing the dental arch, of a pre-existing representation of an orthodontic appliance.
  • the modification of the original image by the neural network can lead to modifications of other zones of the original image than the representation zone of the orthodontic appliance.
  • a careful comparison of Figures 3A and 3B shows that the profiles of the lower teeth on the original image (Lig. 3A) and on the modified image (Lig. 3B) are slightly different. These differences, which could be harmful if the modified image were used to intervene on the teeth, for example to guide a dentist during a milling operation, are not when the modified image is intended to be presented to the patient. .
  • the performance of neural networks can even make it significantly impossible to detect a difference outside the area in which the orthodontic appliance has been represented, as shown by a comparison of FIGS. 6A and 6B.
  • - Represent a dental organ, and in particular an orthodontic appliance on an image of a bare dental arch, that is to say not carrying the dental organ; - Suppress the representation of a dental organ, and in particular an orthodontic appliance on an image of an equipped dental arch, that is to say carrying the dental organ; or
  • the dental organ is chosen from an orthodontic appliance, a crown, an implant, a bridge, and a veneer;
  • the original image is a photo or a view of a three-dimensional digital model of said arch
  • said view is rendered hyperreal by means of a “transformation” neural network
  • said deformation consists of:
  • the modification neural network is trained with a historical learning base made up of a set of historical records, each historical record comprising:
  • a historical image chosen from a photo of a dental scene representing a dental arch not wearing an orthodontic appliance, a view of a dental scene representing a dental arch not wearing an orthodontic appliance, a photo of a dental scene representing a dental arch with an orthodontic appliance, and a view of a model representing a dental arch with an orthodontic appliance, and a historical description specifying whether or not the historical image represents an orthodontic appliance
  • the type of orthodontic appliance includes active multi-attachment appliances or orthodontic aligners or compression appliances, that is to say, for example, that all active multi-attachment appliances are considered to be of the same type ;
  • the modified image is presented on the screen of a patient's telephone or on a mirror, preferably in augmented reality.
  • the invention also provides a method for increasing a patient's adherence to orthodontic treatment, the method comprising the following steps:
  • step 2 simulation by means of a simulation method according to the invention, the original image acquired in step a) representing a naked dental arch of the patient and the neural network of modification being the neural network chosen at step 1);
  • step c) after step c), based on the patient's opinion, determination of orthodontic treatment with an orthodontic appliance of the type chosen in step 1), or repeated in step 1) with another type orthodontic appliance.
  • step 3 the patient gives an opinion on the modified image which is presented to him in step c). If satisfied, orthodontic treatment is determined with the orthodontic appliance of the chosen type. The orthodontic appliance having been accepted by the patient, his adherence to the treatment is high.
  • Steps b) and c) of a simulation method according to the invention are implemented by a computer, after loading the original image into the computer.
  • Step 1) and preferably step 3) are also implemented by a computer.
  • the invention therefore also relates to:
  • a computer program comprising program code instructions for the execution of these steps b), c), 1) and preferably 3), when said program is executed by a computer, - a computer medium on which such a program is recorded, for example a memory or a CD-ROM.
  • a "patient” is a person for whom a method according to the invention is implemented, regardless of whether this person is undergoing orthodontic treatment or not.
  • Dental professional means any person qualified to provide dental care, which includes in particular an orthodontist and a dentist.
  • a "dental situation” defines a set of characteristics relating to an arch of a patient at an instant, for example the position of the teeth, their shape, the position of an orthodontic appliance, etc. at this moment.
  • model is meant a three-dimensional digital model. It consists of a set of voxels.
  • An "arch model” is a model representing at least part of a dental arch, preferably at least 2, preferably at least 3, preferably at least 4 teeth (Fig. 4 for example).
  • An observation of a model, under determined observation conditions, in particular at a determined angle and distance, is called a "view”.
  • An "image” is a two-dimensional, pixel-shaped representation of a scene.
  • An extraoral image is an image taken from an observation point outside the mouth, for example taken in front of the patient, preferably with a retractor.
  • a “photo” is a particular image, conventionally in color, taken with a camera.
  • “Camera” means any device for taking a photo, which includes a camera, mobile phone, tablet or computer. Another example is a view.
  • a tooth attribute is an attribute whose value is specific to teeth.
  • a value of a tooth attribute is assigned to each tooth zone of the image considered or to each tooth model of a dental arch model considered.
  • a tooth attribute does not concern the image or the model as a whole. It takes its value due to the characteristics of the tooth to which it refers.
  • a “scene” is made up of a set of elements that can be observed simultaneously.
  • a “dental scene” is a scene comprising at least part of a dental arch. It preferably represents at least 2, preferably at least 3, preferably at least 4 teeth.
  • photo of an arcade means a photo, a view, a representation, a scan or a model, etc. of all or part of said dental arch.
  • a “learning base” is a database of computer records suitable for training a neural network. Each record conventionally comprises an object, for example an image, and information on this object, or "description".
  • a description includes values for attributes of the object. For example, an attribute of a dental scene image can be used to identify a type of orthodontic appliance shown. The attribute is then "Type of orthodontic appliance” and the value of this attribute is, for example "active multi-attachment appliance” or "compression appliance”.
  • a "local" modification of an original image is a modification which mainly concerns only part of this image, the rest of the image not being substantially modified. In reality, the entire original image can be changed because the image is regenerated. But for an observer who does not pay particular attention, only part of the original image appears modified.
  • the modification could consist in adding the representation of an orthodontic appliance on the original image. Outside the representation of the orthodontic appliance, the original image does not appear modified for an observer who does not examine the details.
  • Dental organ means any device intended to be worn by the dental arch, and in particular an orthodontic appliance, a crown, an implant, a bridge, or a veneer.
  • FIGS. 2A and 2B represent examples of historical photos used to train the modification neural network
  • FIG. 3A and 3B respectively represent an original photo and a photo modified by a method according to the invention
  • FIG. 4 shows an example of a model of a dental arch
  • FIG. 5 shows a view of a model of a dental arch
  • FIG. 6A and 6B respectively represent an original photo and a photo modified by a method according to the invention.
  • the original image is preferably an extraoral image, for example taken in front of the patient, preferably with a dental retractor.
  • the original image can be an "original” photo ( Figure 3).
  • the original photo is acquired with a camera, preferably chosen from a mobile phone, a “connected” camera, a so-called “smart” watch, or a “smartwatch”, a tablet or a personal computer, fixed or portable. , including a photo acquisition system.
  • a camera preferably chosen from a mobile phone, a “connected” camera, a so-called “smart” watch, or a “smartwatch”, a tablet or a personal computer, fixed or portable.
  • the camera is a mobile phone.
  • the camera is moved away from the dental arch by more than 5 cm, more than 8 cm, or even more than 10 cm, which avoids condensation of water vapor on the camera lens and makes focusing easier.
  • the camera in particular the mobile telephone, is not provided with any specific optics for the acquisition of the original photos, which is in particular possible because of the spacing of the dental arch during acquisition.
  • an original photo is in color, preferably in real color.
  • the acquisition of the original photo is carried out by the patient, preferably without the use of a immobilizer for the camera, and in particular without a tripod.
  • the original image can alternatively be a view, called “original view” (FIG. 5), of a three-dimensional model of the arch, called “original model”.
  • Original view (FIG. 5)
  • original model can be prepared from measurements made on the patient's teeth or on a molding of his teeth, for example a plaster molding. It is preferably created with a 3D scanner. The original model is then advantageously very precise.
  • the original model is theoretical, that is to say does not correspond to a real situation.
  • the original model can be created by assembling a set of tooth models chosen from a digital library. The arrangement of the tooth models is determined so that the original model is realistic, that is to say, corresponds to a situation that could have been encountered in a patient.
  • the tooth models are arranged in an arc, depending on their nature, and realistically oriented. The use of a model of theoretical origin advantageously makes it possible to simulate dental arches without having to take precise measurements on the patient.
  • the view of the original model used as the original image can be acquired after distorting the original model.
  • the deformation thus makes it possible to simulate hypothetical dental situations.
  • the original model is cut into elementary models, each elementary model representing in 3D an element of the scene that the original model models.
  • elementary models for each tooth and / or the tongue, and / or the mouth, and / or the lips, and / or the jaws, and / or the gum.
  • the original model thus cut out can then be deformed, for example by moving the tooth models, to simulate the effect of orthodontic treatment or the course of a recurrence, or an aesthetic treatment.
  • the distortion of the original model can notably consist of
  • a displacement of a tooth model for example to simulate a spacing between two teeth or a bringing together of two teeth
  • the original view is made hyperrealistic before step b), preferably by proceeding according to the following steps: i) creation of a learning base “of transformation” made up of more than 1000 records “of transformation ”, each transformation record comprising:
  • the transformation neural network can in particular be chosen from the list below.
  • Image transformation techniques are further described in the article by Zhu, Jun-Yan, et al. "Unpaired image-to-image translation using cycle-consistent adversarial networks.”
  • hyperrealistic provides substantially the same information as photos, without having to take photos. It is indeed very difficult to notice that the view of hyperrealistic origin is not a photo. A hyperrealistic image can therefore also be described as “photorealistic”.
  • step b) the original image resulting from step a) is subjected to a neural network trained to represent the orthodontic appliance on images, or "modification neural network".
  • neural network or “artificial neural network” is a set of algorithms well known to those skilled in the art.
  • the neural network can in particular be chosen from: networks specialized in the classification of images, called “CNN” (“Convolutional neural network”), for example
  • VGG CNN S V GG CNN M, V GG CNN M 2048, V GG CNN M 10 24, V GG_CNN_M_ 128, V GG CNN F, VGG ILSVRC-2014 l6-layer, VGG ILSVRC-2014 l9-layer , Network-in-Network (Imagenet & CIFAR-10)
  • the Object Detection Network for example:
  • a neural network To be operational, a neural network must be trained by a learning process called "deep learning”. Such a process is well known.
  • the modification neural network can in particular be trained from a historical learning base made up of a set of historical records, each historical record comprising:
  • a historical image chosen from a photo of a dental scene representing a dental arch not wearing an orthodontic appliance (Fig. 2A for example), a view of a dental scene representing a dental arch not wearing an orthodontic appliance , a photo of a dental scene representing a dental arch with an orthodontic appliance (Fig. 2B for example), and a view of a model representing a dental arch with an orthodontic appliance, and
  • - a historical description specifying whether or not the historical image represents an orthodontic appliance and / or identifying, in this image, the representation of the orthodontic appliance.
  • a historical image consisting of a photo or view can be acquired as described above for the acquisition of original photos and original views.
  • the descriptions are generated by an operator who observes the historical image and completes the description accordingly, by means of a computer. This operation is called "labeling".
  • the latter By presenting the historical recordings at the input of the neural network, the latter gradually learns the difference between an image which represents an orthodontic appliance and an image which does not represent an orthodontic appliance. He thus becomes able, depending on the original image presented to him, to generate a modified image to represent an orthodontic appliance.
  • the neural network therefore does not position a view of a 3D model of orthodontic appliance or a pre-existing image of orthodontic appliance on the original image.
  • the network regenerates a complete image from the only original image by integrating an orthodontic appliance (created from the original image).
  • Training the neural network of modification also allows him to learn to represent an orthodontic appliance in its context, and in particular in lighting and / or sharpness conditions which are those of the original image.
  • the integration of the orthodontic appliance is therefore particularly realistic ( Figure 3B).
  • the quality of training of the modification neural network directly depends on the number of historical records in the learning base.
  • the historical learning base preferably comprises more than 10,000 records.
  • the historical learning base preferably comprises more than 5,000, preferably more than 10,000, preferably more than 30,000, preferably more than 50,000, preferably more than 100,000 historical records.
  • the quality of the training in the modifying neural network can also be improved if, when the original image is a photo or a view, the historical learning base only contains photos or only views, respectively.
  • the quality of training of the modification neural network can be improved if the historical learning base is specialized for a type of orthodontic appliance.
  • the neural network is trained with a historical learning base in which the historical images which represent an orthodontic appliance represent only orthodontic appliances of a predetermined type. The modification neural network will thus be efficient in generating a modified image to represent an orthodontic appliance of this type.
  • an operator chooses a type of orthodontic appliance to be represented and a computer specializes the learning base accordingly, for example by retaining only the historical records whose historical images do not represent an orthodontic appliance or represent an orthodontic appliance of the selected type.
  • step c) the modified image is presented to the patient, preferably on a computer screen or in augmented reality, for example on a screen of a telephone or on a mirror in which the patient looks at himself.
  • the patient can thus observe the appearance he will have when he wears the orthodontic appliance, and therefore more easily accept the corresponding treatment.
  • the patient takes the original photo, for example with his mobile phone, and a computer, integrated into the mobile phone or with which the mobile phone can communicate, implements the method.
  • the edited image is displayed on the mobile phone screen.
  • the patient can very easily request a simulation of his dental situation, without even having to move, from one or preferably several photos of his teeth.
  • a method according to the invention can also be implemented to generate a modified image representing a simulated dental situation from a digital three-dimensional model of a dental arch.
  • the dental situation can be simulated at a time of past or future simulation, as part of a therapeutic treatment or not.
  • step a we acquire a view of hyperrealistic origin obtained according to the following steps:
  • the modified image thus appears as a photo which would have been taken at the time of simulation and which carries the orthodontic appliance. It can be presented to the patient in order to show him, for example, his future or past dental situation, and thus motivate him to observe orthodontic treatment.
  • step a2) the original model is deformed to simulate the effect of time in the event of poor compliance, that is to say if the patient does not comply with medical prescriptions.
  • the patient is not limited to a human being.
  • a method according to the invention can be used for another animal.
  • a learning base does not necessarily consist of recordings of "pairs".
  • the article by Zhu, Jun-Yan, et al. "Unpaired image-to-image translation using cycle-consistent aciversarial networks" describes other possible learning bases.
  • the method is not limited to a method for adding the representation of an orthodontic appliance to an image, but can also be used for any modification of the representation of a dental arch, and in particular for removing the representation. of an orthodontic appliance on an image of a dental arch with an orthodontic appliance or to replace the representation of an orthodontic appliance on an image of a dental arch equipped with an orthodontic appliance by the representation of another orthodontic appliance .
  • the training is adapted accordingly. This adaptation poses no particular difficulty.
  • the method is not limited to a method for adding or deleting or modifying a representation of an orthodontic appliance on an original image. It extends to the representation of any other dental organ.

Landscapes

  • Health & Medical Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Medical Informatics (AREA)
  • Epidemiology (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Biomedical Technology (AREA)
  • General Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Primary Health Care (AREA)
  • Evolutionary Computation (AREA)
  • Data Mining & Analysis (AREA)
  • Artificial Intelligence (AREA)
  • General Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • Animal Behavior & Ethology (AREA)
  • Dentistry (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Radiology & Medical Imaging (AREA)
  • Veterinary Medicine (AREA)
  • Mathematical Physics (AREA)
  • Computing Systems (AREA)
  • Molecular Biology (AREA)
  • Computational Linguistics (AREA)
  • Biophysics (AREA)
  • Databases & Information Systems (AREA)
  • Pathology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computer Hardware Design (AREA)
  • Geometry (AREA)
  • Dental Tools And Instruments Or Auxiliary Dental Instruments (AREA)
  • Apparatus For Radiation Diagnosis (AREA)

Abstract

Procédé de simulation comportant les étapes suivantes : a) acquisition d'une image d'une arcade dentaire d'un patient, dite « image d'origine »; b) soumission de l'image d'origine à un réseau de neurones, dit « réseau de neurones de modification », entrainé pour modifier localement l'image d'origine afin d'obtenir une « image modifiée »; c) présentation de l'image modifiée au patient.

Description

PROCEDE DE SIMULATION D’UNE SITUATION DENTAIRE
Domaine technique
La présente invention concerne un procédé de simulation permettant de générer une vue dentaire hyperréaliste simulant le port d’un appareil orthodontique.
Etat de la technique
L'adhésion d’un patient à un traitement orthodontique est importante pour la réussite de ce traitement. En particulier, le port d’un appareil orthodontique modifie l’apparence du patient, ce qui peut le dissuader d’effectuer le traitement.
Il existe donc un besoin pour un procédé permettant d’améliorer cette adhésion.
Un but de l’invention est de répondre, au moins partiellement, à ce besoin.
Résumé de l'invention
L’invention propose un procédé de simulation comportant les étapes suivantes :
a) acquisition d’une image représentant une arcade dentaire d’un patient, dite « image d’origine » ;
b) soumission de l’image d’origine à un réseau de neurones, dit « réseau de neurones de modification », entraîné pour modifier localement l’image d’origine afin d’obtenir une « image modifiée » ;
c) de préférence, présentation de l’image modifiée au patient.
Comme on le verra plus en détail dans la suite de la description, un tel réseau de neurones est capable de transformer l’image d’origine de manière étonnement réaliste. Un procédé selon l’invention permet ainsi d’intégrer dans l’image d’origine une représentation d’un appareil orthodontique, ou de modifier un appareil orthodontique représenté sur l’image d’origine, ou de supprimer un appareil orthodontique représenté sur l’image d’origine. Le patient peut ainsi bénéficier d’une simulation qui lui permet de bien mesurer l’impact visuel du port de l’appareil orthodontique ou d’un changement d’appareil orthodontique.
Son adhésion au traitement orthodontique en est renforcée.
Un procédé selon l’invention est remarquable en ce que le réseau de neurones est entraîné pour créer une image modifiée à partir de l’image d’origine qui lui est fournie. Ce procédé est donc tout à fait différent d’un procédé dans lequel, par exemple, on ajoute à une image un élément, par exemple une représentation d’un appareil orthodontique existant. En effet, pour intégrer dans l’image d’origine une représentation d’un appareil orthodontique, le réseau de neurones crée cette représentation. Cette représentation n’est donc pas la reproduction d’un appareil orthodontique réel ou d’un modèle tridimensionnel d’un appareil orthodontique réel, mais est généré par le réseau de neurones de manière artificielle, en même temps que le reste de l’image.
De manière surprenante, la représentation de l’appareil orthodontique est très réaliste et permet une bonne simulation pour le patient, comme représenté sur la figure 3B. Notamment, l’entrainement du réseau de neurones lui apprend à représenter l’appareil orthodontique dans le contexte de l’image d’origine, avec le contraste, la netteté, les ombres et les reflets correspondant. La simulation est donc beaucoup plus réaliste que le simple ajout, dans une image représentant l’arcade dentaire, d’une représentation préexistante d’un appareil orthodontique.
La modification de l’image d’origine par le réseau de neurones peut conduire à des modifications d’autres zones de l’image d’origine que la zone de représentation de l’appareil orthodontique. Par exemple, une comparaison attentive des figures 3A et 3B montre que les profils des dents inférieures sur l’image d’origine (Lig. 3A) et sur l’image modifiée (Lig. 3B) sont légèrement différents. Ces différences, qui pourraient être préjudiciables si l’image modifiée était utilisée pour intervenir sur les dents, par exemple pour guider un dentiste lors d’une opération de fraisage, ne le sont pas lorsque l’image modifiée est destinée à être présentée au patient. Les performances des réseaux de neurones peuvent même rendre sensiblement impossible la détection de différence en dehors de la zone dans laquelle l’appareil orthodontique a été représenté, comme le montre une comparaison des figures 6 A et 6B.
Un procédé selon l’invention peut encore comporter une ou plusieurs des caractéristiques optionnelles suivantes :
- le réseau de neurones de modification est entraîné pour :
- représenter un organe dentaire, et en particulier un appareil orthodontique sur une image d’une arcade dentaire nue, c'est-à-dire ne portant pas l’organe dentaire ; - supprimer la représentation d’un organe dentaire, et en particulier d’un appareil orthodontique sur une image d’une arcade dentaire équipée, c'est-à-dire portant l’organe dentaire ; ou
- remplacer la représentation d’un organe dentaire, et en particulier d’un appareil orthodontique sur une image d’une arcade dentaire équipée, par la représentation d’un autre organe dentaire, et en particulier d’un autre appareil orthodontique, respectivement ;
- l’organe dentaire est choisi parmi un appareil orthodontique, une couronne, un implant, un bridge, et une facette ;
- l’image d’origine est une image extra-orale ;
- l’image d’origine est une photo ou une vue d’un modèle tridimensionnel numérique de ladite arcade ;
- préalablement à l’étape a), on rend hyperréaliste ladite vue au moyen d’un réseau de neurones « de transformation » ;
- préalablement à l’acquisition de ladite vue, on modifie ledit modèle ;
- ladite déformation consiste en :
un déplacement d’un modèle tridimensionnel d’une dent, et/ou
une déformation d’un modèle de dent, et/ou
une suppression d’un modèle de dent, et/ou
une déformation d’un modèle de mâchoire ;
- préalablement à l’étape b), le réseau de neurones de modification est entraîné avec une base d'apprentissage historique constituée d’un ensemble d’enregistrements historiques, chaque enregistrement historique comportant :
une image historique choisie parmi une photo d’une scène dentaire représentant une arcade dentaire ne portant pas d’appareil orthodontique, une vue d’une scène dentaire représentant une arcade dentaire ne portant pas d’appareil orthodontique, une photo d’une scène dentaire représentant une arcade dentaire portant un appareil orthodontique, et une vue d’un modèle représentant une arcade dentaire portant un appareil orthodontique, et un descriptif historique précisant si l’image historique représente ou non un appareil orthodontique,
tous les appareils orthodontiques représentés sur les images historiques étant du même type ; - le type d’appareil orthodontique regroupe les appareils multi-attaches actifs ou les gouttières orthodontiques ou les appareils de contention, c'est-à-dire, par exemple, que tous les appareils multi-attaches actifs sont considérés comme étant du même type ;
- à l’étape c), on présente l’image modifiée sur l’écran d’un téléphone du patient ou sur un miroir, de préférence en réalité augmentée.
L’invention propose encore un procédé pour augmenter l’adhésion d’un patient à un traitement orthodontique, le procédé comportant les étapes suivantes :
1) choix d’un type d’appareil orthodontique, par exemple « appareil multi-attaches actif », « gouttière orthodontique » ou « appareil de contention », et d’un réseau de neurones entraîné pour représenter un appareil orthodontique dudit type sur des images d’arcade dentaire nue qui lui sont fournies ;
2) simulation au moyen d’un procédé de simulation selon l’invention, l’image d’origine acquise à l’étape a) représentant une arcade dentaire nue du patient et le réseau de neurones de modification étant le réseau de neurones choisi à l’étape 1) ;
3) après l’étape c), en fonction d’un avis du patient, détermination d’un traitement orthodontique avec un appareil orthodontique du type choisi à l’étape 1), ou reprise à l’étape 1) avec un autre type d’appareil orthodontique.
A l’étape 3), le patient émet un avis sur l’image modifiée qui lui est présentée à l’étape c). S’il est satisfait, le traitement orthodontique est déterminé avec l’appareil orthodontique du type choisi. L’appareil orthodontique ayant été accepté par le patient, son adhésion au traitement est élevée.
En cas d’insatisfaction, une nouvelle simulation est lancée avec un autre type d’appareil orthodontique.
Les étapes b) et c) d’un procédé de simulation selon l’invention sont mises en œuvre par un ordinateur, après chargement de l’image d’origine dans l’ordinateur.
L’étape 1) et de préférence l’étape 3) sont également mises en œuvre par un ordinateur.
L’invention concerne donc également :
- un programme d’ordinateur comprenant des instructions de code de programme pour l'exécution de ces étapes b), c), 1) et de préférence 3), lorsque ledit programme est exécuté par un ordinateur, - un support informatique sur lequel est enregistré un tel programme, par exemple une mémoire ou un CD-ROM.
Définitions
Un « patient » est une personne pour laquelle un procédé selon l’invention est mis en œuvre, indépendamment du fait que cette personne suive un traitement orthodontique ou non.
Par « professionnel de soins dentaires », on entend toute personne qualifiée pour prodiguer des soins dentaires, ce qui inclut en particulier un orthodontiste et un dentiste.
Une « situation dentaire » définit un ensemble de caractéristiques relatives à une arcade d’un patient à un instant, par exemple la position des dents, leur forme, la position d’un appareil orthodontique, etc. à cet instant.
Par « modèle », on entend un modèle tridimensionnel numérique. Il est constitué d’un ensemble de voxels. Un « modèle d’une arcade » est un modèle représentant au moins une partie d’une arcade dentaire, de préférence au moins 2, de préférence au moins 3, de préférence au moins 4 dents (Fig. 4 par exemple).
Une observation d’un modèle, dans des conditions d’observations déterminées, en particulier selon un angle et à une distance déterminés, est appelée une « vue ».
Une « image » est une représentation, en deux dimensions et formée de pixels, d’une scène.
Une image extra-orale est une image prise à partir d’un point d’observation hors de la bouche, par exemple prise face au patient, de préférence avec un écarteur.
Une « photo » est une image particulière, classiquement en couleur, prise avec un appareil photo. Par « appareil photo », on entend tout appareil permettant de prendre une photo, ce qui inclut une caméra, un téléphone mobile, une tablette ou un ordinateur. Une vue est un autre exemple d’image.
Un attribut de dent est un attribut dont la valeur est spécifique aux dents. De préférence, une valeur d’un attribut de dent est affectée à chaque zone de dent de l’image considérée ou à chaque modèle de dent d’un modèle d’arcade dentaire considéré. En particulier, un attribut de dent ne concerne pas l’image ou le modèle dans son ensemble. Il tient sa valeur du fait de caractéristiques de la dent à laquelle il se réfère.
Une « scène » est constituée par un ensemble d’éléments qui peuvent être observés simultanément. Une « scène dentaire » est une scène comportant au moins une partie d’une arcade dentaire. Elle représente de préférence au moins 2, de préférence au moins 3, de préférence au moins 4 dents.
Par « photo d’une arcade », « vue d’une arcade », « représentation d’une arcade », « scan d’une arcade », « modèle d’une arcade », etc. on entend une photo, une vue, une représentation, un scan ou un modèle, etc. de tout ou partie de ladite arcade dentaire.
Une « base d'apprentissage » est une base d’enregistrements informatiques adaptée à l’entrainement d’un réseau de neurones. Chaque enregistrement comporte classiquement un objet, par exemple une image, et des informations sur cet objet, ou « descriptif ». Un descriptif comporte des valeurs pour des attributs de l’objet. Par exemple, un attribut d’une image d’une scène dentaire peut servir à identifier un type d’appareil orthodontique représenté. L’attribut est alors « Type d’appareil orthodontique » et la valeur de cet attribut est, par exemple « appareil multi-attaches actif » ou « appareil de contention ».
Une modification « locale » d’une image d’origine est une modification qui ne concerne principalement qu’une partie de cete image, le reste de l’image n’étant sensiblement pas modifié. En réalité, toute l’image d’origine peut être modifiée, car l’image est régénérée. Mais pour un observateur qui ne prête pas d’attention particulière, seule une partie de l’image d’origine apparaît modifiée. Par exemple, la modification peut consister en l’ajout de la représentation d’un appareil orthodontique sur l’image d’origine. Hors de la représentation de l’appareil orthodontique, l’image d’origine n’apparaît pas modifiée pour un observateur qui n’en examine pas le détail.
« Organe dentaire », on entend tout dispositif destiné à être porté par l’arcade dentaire, et en particulier un appareil orthodontique, une couronne, un implant, un bridge, ou une facete.
Dans la présente description, les qualificatifs « d’origine », « modifié », « historique », « de modification » et « de transformation » sont utilisés à des fins de clarté.
Il faut interpréter "comprenant " ou "comportant " ou "présentant " de manière non restrictive, sauf indication contraire.
Brève description des figures
D’autres caractéristiques et avantages de l’invention apparaîtront encore à la lecture de la description détaillée qui va suivre et à l'examen du dessin annexé dans lequel :
- la figure 1 représente, schématiquement, les différentes étapes d’un procédé selon l’invention ; - les figures 2A et 2B représentent des exemples de photos historiques utilisées pour entraîner le réseau de neurones de modification ;
- les figures 3A et 3B représentent respectivement une photo d’origine et une photo modifiée au moyen d’un procédé selon l’invention ;
- la figure 4 représente un exemple d’un modèle d’une arcade dentaire ;
- la figure 5 représente une vue d’un modèle d’une arcade dentaire ; et
- les figures 6A et 6B représentent respectivement une photo d’origine et une photo modifiée au moyen d’un procédé selon l’invention.
Description détaillée
La description détaillée qui suit est celle d’un mode de réalisation préféré, illustré sur la figure 1, mais n’est pas limitative.
A l’étape a), l’image d’origine est de préférence une image extra-orale, par exemple prise face au patient, de préférence avec un écarteur dentaire.
L’image d’origine peut être une photo « d’origine » (figure 3).
La photo d’origine est acquise avec un appareil photo, de préférence choisi parmi un téléphone mobile, un appareil photo dit « connecté », une montre dite « intelligente », ou « smartwatch », une tablette ou un ordinateur personnel, fixe ou portable, comportant un système d’acquisition de photos. De préférence l’appareil photo est un téléphone mobile.
De préférence encore, lors de l’acquisition de la photo d’origine, l’appareil photo est écarté de l’arcade dentaire de plus de 5 cm, plus de 8 cm, voire plus de 10 cm, ce qui évite la condensation de vapeur d’eau sur l’optique de l’appareil photo et facilite la mise au point. En outre, de préférence, l’appareil photo, en particulier le téléphone mobile, n’est pourvu d’aucune optique spécifique pour l’acquisition des photos d’origine, ce qui est notamment possible du fait de l’écartement de l’arcade dentaire lors de l’acquisition.
De préférence, une photo d’origine est en couleurs, de préférence en couleurs réelles.
De préférence, l’acquisition de la photo d’origine est effectuée par le patient, de préférence sans utilisation d’un support d’immobilisation de l’appareil photo, et notamment sans trépied.
L’image d’origine peut être alternativement une vue, dite « vue d’origine » (figure 5), d’un modèle tridimensionnel de l’arcade, dit « modèle d’origine ». Le modèle d’origine peut être préparé à partir de mesures effectuées sur les dents du patient ou sur un moulage de ses dents, par exemple un moulage en plâtre. Il est de préférence créé avec un scanner 3D. Le modèle d’origine est alors avantageusement très précis.
Dans un mode de réalisation, le modèle d’origine est théorique, c'est-à-dire ne correspond pas à une situation réelle. En particulier, le modèle d’origine peut être créé par assemblage d’un ensemble de modèles de dents choisis dans une bibliothèque numérique. L’agencement des modèles de dent est déterminé pour que le modèle d’origine soit réaliste, c'est-à-dire corresponde à une situation qui aurait pu se rencontrer chez un patient. En particulier, les modèles de dents sont disposés suivant un arc, en fonction de leur nature, et orientés de manière réaliste. L’utilisation d’un modèle d’origine théorique permet avantageusement de simuler des arcades dentaires sans devoir prendre de mesures précises sur le patient.
La vue du modèle d’origine utilisée comme image d’origine peut être acquise après avoir déformé le modèle d’origine. La déformation permet ainsi de simuler des situations dentaires hypothétiques.
De préférence, le modèle d’origine est découpé en modèles élémentaires, chaque modèle élémentaire représentant en 3D un élément de la scène que modélise le modèle d’origine. Notamment, on peut définir, à partir du modèle d’origine, des modèles élémentaires pour chaque dent et/ou la langue, et/ou la bouche, et/ou les lèvres, et/ou les mâchoires, et/ou la gencive.
Le modèle d’origine ainsi découpé peut être ensuite déformé, par exemple par déplacement des modèles de dent, pour simuler l’effet d’un traitement orthodontique ou l’évolution d’une récidive, ou un traitement esthétique.
La déformation du modèle d’origine peut notamment consister en
- un déplacement d’un modèle de dent, par exemple pour simuler un écartement entre deux dents ou un rapprochement de deux dents,
- une déformation d’un modèle de dent, par exemple pour simuler un bruxisme,
- une suppression d’un modèle de dent,
- une déformation d’un modèle de mâchoire.
L’utilisation d’une vue d’un modèle d’origine, éventuellement déformé, comme image d’origine réduit le réalisme de l’image modifiée. De préférence, la vue d’origine est rendue hyperréaliste avant l’étape b), de préférence en procédant suivant les étapes suivantes : i) création d’une base d'apprentissage « de transformation » constituée de plus de 1 000 enregistrements « de transformation », chaque enregistrement de transformation comportant :
- une photo « de transformation » représentant une scène dentaire, et
- une vue d’un modèle tridimensionnel numérique « de transformation » modélisant ladite scène, ou « vue de transformation », la vue de transformation représentant ladite scène comme la photo de transformation ;
ii) entraînement d’au moins un réseau de neurones « de transformation », au moyen de la base d’apprentissage de transformation ;
iii) soumission de la vue d’origine audit au moins un réseau de neurones de transformation entraîné, de manière qu’il rende hyperréaliste la vue d’origine.
Le réseau de neurones de transformation peut être notamment choisi dans la liste ci-dessous.
Des techniques de transformation d’images sont encore décrites dans l’article de Zhu, Jun- Yan, et al. "Unpaired image-to-image translation using cycle-consistent adversarial networks. "
Des essais ont montré que la vue d’origine rendue ainsi hyperréaliste apporte sensiblement les mêmes informations que des photos, sans avoir à prendre de photos. Il est en effet très difficile de remarquer que la vue d’origine hyperréaliste n’est pas une photo. Une image hyperréaliste peut donc également être qualifiée de « photoréaliste ».
A l’étape b), l’image d’origine résultant de l’étape a) est soumise à un réseau de neurones entraîné pour représenter l’appareil orthodontique sur des images, ou « réseau de neurones de modification ».
Un « réseau de neurones » ou « réseau neuronal artificiel » est un ensemble d’algorithmes bien connu de l’homme de l’art. Le réseau de neurones peut être en particulier choisi parmi : les réseaux spécialisés dans la classification d’images, appelés « CNN » (« Convolutional neural network »), par exemple
- AlexNet (2012)
- ZF Net (2013)
- VGG Net (2014)
- GoogleNet (2015) - Microsoft ResNet (2015)
- Caffe: BAIR Reference CaffeNet, BAIR AlexNet
- T orch : VGG CNN S , V GG CNN M , V GG CNN M 2048 , V GG CNN M 10 24 ,V GG_CNN_M_ 128 , V GG CNN F , VGG ILSVRC-2014 l6-layer,VGG ILSVRC-2014 l9-layer,Network-in-Network (Imagenet & CIFAR-10)
- Google : Inception (V3, V4).
- les réseaux spécialisés dans la localisation, et détection d’objets dans une image, les Object Détection Network, par exemple:
- R-CNN (2013)
- SSD (Single Shot MultiBox Detector: Object Détection network), Faster R-CNN (Faster Region-based Convolutional Network method: Object Détection network)
- Faster R-CNN (2015)
- SSD (2015).
La liste ci-dessus n’est pas limitative.
Pour être opérationnel, un réseau de neurones doit être entraîné par un processus d’apprentissage appelé « deep learning ». Un tel processus est bien connu.
Le réseau de neurones de modification peut être en particulier entraîné à partir d’une base d'apprentissage historique constituée d’un ensemble d’enregistrements historiques, chaque enregistrement historique comportant :
- une image historique choisie parmi une photo d’une scène dentaire représentant une arcade dentaire ne portant pas d’appareil orthodontique (Fig. 2A par exemple), une vue d’une scène dentaire représentant une arcade dentaire ne portant pas d’appareil orthodontique, une photo d’une scène dentaire représentant une arcade dentaire portant un appareil orthodontique (Fig. 2B par exemple), et une vue d’un modèle représentant une arcade dentaire portant un appareil orthodontique, et
- un descriptif historique précisant si l’image historique représente ou non un appareil orthodontique et/ou identifiant, dans cette image, la représentation de l’appareil orthodontique.
Une image historique constituée d’une photo ou d’une vue peut être acquis comme décrit ci- dessus pour l’acquisition des photos d’origine et des vues d’origine. Classiquement, les descriptifs sont générés par un opérateur qui observe l’image historique et complète en conséquence le descriptif, au moyen d’un ordinateur. Cette opération est appelée « labelling ».
En présentant les enregistrements historiques en entrée du réseau de neurones, ce dernier apprend progressivement la différence entre une image qui représente un appareil orthodontique et une image qui ne représente pas un appareil orthodontique. Il devient ainsi capable, en fonction de l’image d’origine qu’on lui présente, de générer une image modifiée pour représenter un appareil orthodontique.
Le réseau de neurones ne positionne donc pas une vue d’un modèle 3D d'appareil orthodontique ou une image préexistante d'appareil orthodontique sur l'image d'origine.
Le réseau régénère une image complète à partir de la seule image d’origine en y intégrant un appareil orthodontique (créé à partir de l’image d’origine).
L’entrainement du réseau de neurones de modification lui permet également d’apprendre à représenter un appareil orthodontique dans son contexte, et en particulier dans des conditions d’éclairage et/ou de netteté qui sont celles de l’image d’origine. L’intégration de l’appareil orthodontique est ainsi particulièrement réaliste (figure 3B).
La qualité de l’entrainement du réseau de neurones de modification dépend directement du nombre d’enregistrements historiques de la base d'apprentissage. Classiquement, la base d’apprentissage historique comporte de préférence plus de 10 000 enregistrements.
La base d'apprentissage historique comporte de préférence plus de 5 000, de préférence plus de 10 000, de préférence plus de 30 000, de préférence plus de 50 000, de préférence plus de 100 000 enregistrements historiques.
La qualité de l’entrainement du réseau de neurones de modification peut être également améliorée si, lorsque l’image d’origine est une photo ou une vue, la base d'apprentissage historique ne comporte que des photos ou que des vues, respectivement.
La qualité de l’entrainement du réseau de neurones de modification peut être enfin améliorée si la base d'apprentissage historique est spécialisée pour un type d’appareil orthodontique. Dans un mode de réalisation préféré, le réseau de neurones est entraîné avec une base d'apprentissage historique dans laquelle les images historiques qui représentent un appareil orthodontique ne représentent que des appareils orthodontiques d’un type prédéterminé. Le réseau de neurones de modification sera ainsi performant pour générer une image modifiée pour représenter un appareil orthodontique de ce type.
Dans un mode de réalisation, un opérateur choisit un type d’appareil orthodontique à représenter et un ordinateur spécialise la base d'apprentissage en conséquence, par exemple en ne retenant que les enregistrements historiques dont les images historiques ne représentent pas d’appareil orthodontique ou représentent un appareil orthodontique du type sélectionné.
A l’étape c), on présente l’image modifiée au patient, de préférence sur un écran d’ordinateur ou en réalité augmentée, par exemple sur un écran d’un téléphone ou sur un miroir dans lequel le patient se regarde.
Le patient peut ainsi observer l’apparence qu’il aura quand il portera l’appareil orthodontique, et donc accepter plus facilement le traitement correspondant.
Simulation d’une situation dentaire actuelle
Dans un mode de réalisation, le patient prend la photo d’origine, par exemple avec son téléphone mobile, et un ordinateur, intégré dans le téléphone mobile ou avec lequel le téléphone mobile peut communiquer, met en œuvre le procédé. L’image modifiée est présentée sur l’écran du téléphone mobile.
Le patient peut ainsi demander très facilement une simulation de sa situation dentaire, sans même devoir se déplacer, à partir d’une ou de préférence plusieurs photos de ses dents.
Simulation d’une situation dentaire passée ou future
Un procédé selon l’invention peut être aussi mis en œuvre pour générer une image modifiée représentant une situation dentaire simulée à partir d’un modèle tridimensionnel numérique d’une arcade dentaire. En particulier, la situation dentaire peut être simulée à un instant de simulation passé ou futur, dans le cadre d’un traitement thérapeutique ou non.
De préférence, à l’étape a), on acquiert une vue d’origine hyperréaliste obtenue suivant les étapes suivantes :
al) à un instant actualisé, génération d’un modèle d’origine d’une arcade dentaire du patient ;
a2) déformation du modèle d’origine pour simuler l’effet du temps entre l’instant actualisé et un instant de simulation, antérieur ou postérieur à l’instant actualisé, par exemple de plus de 1 semaine, 1 mois ou 6 mois ; a3) acquisition d’une vue d’origine du modèle d’origine déformé à l’étape précédente ; a4) transformation de la vue d’origine acquise à l’étape précédente en vue d’origine hyperréaliste, de préférence suivant les étapes i) à iii).
L’image modifiée apparaît ainsi comme une photo qui aurait été prise à l’instant de simulation et qui porte l’appareil orthodontique. Elle peut être présentée au patient afin de lui montrer, par exemple, sa situation dentaire future ou passée, et ainsi le motiver à observer un traitement orthodontique.
Dans un mode de réalisation, à l’étape a2), le modèle d’origine est déformé pour simuler l’effet du temps en cas de mauvaise observance, c'est-à-dire si le patient ne respecte pas les prescriptions médicales.
Bien entendu, l'invention n'est pas limitée aux modes de réalisation décrits ci-dessus et représentés.
En particulier, le patient n’est pas limité à un être humain. Un procédé selon l’invention peut être utilisé pour un autre animal.
Une base d’apprentissage n’est pas nécessairement constituée par des enregistrements de « paires ». Notamment, l’article de Zhu, Jun-Yan, et al. "Unpaired image-to-image translation using cycle-consistent aciversarial networks" décrit d’autres bases d’apprentissage possible.
Par ailleurs, le procédé n’est pas limité à un procédé pour ajouter la représentation d’un appareil orthodontique sur une image, mais peut être aussi utilisé pour toute modification de la représentation d’un arcade dentaire, et en particulier pour supprimer la représentation d’un appareil orthodontique sur une image d’une arcade dentaire portant un appareil orthodontique ou pour remplacer la représentation d’un appareil orthodontique sur une image d’une arcade dentaire équipée d’un appareil orthodontique par la représentation d’un autre appareil orthodontique. L’entrainement est adapté en conséquence. Cette adaptation ne pose aucune difficulté particulière.
Enfin le procédé n’est pas limité à un procédé pour ajouter ou supprimer ou modifier une représentation d’un appareil orthodontique sur une image d’origine. Il s’étend à la représentation de tout autre organe dentaire.

Claims

REVENDICATIONS
1. Procédé de simulation comportant les étapes suivantes :
a) acquisition d’une image d’une arcade dentaire d’un patient, dite « image d’origine » ; b) soumission de l’image d’origine à un réseau de neurones, dit « réseau de neurones de modification », entraîné pour modifier localement l’image d’origine afin d’obtenir une « image modifiée » ;
c) présentation de l’image modifiée au patient.
2. Procédé selon la revendication immédiatement précédente, dans lequel le réseau de neurones de modification est entraîné pour :
- représenter un organe dentaire sur une image d’une arcade dentaire ne portant pas l’organe dentaire ;
- supprimer la représentation d’un organe dentaire sur une image d’une arcade dentaire portant l’organe dentaire ; ou
- remplacer la représentation d’un organe dentaire sur une image d’une arcade dentaire portant l’organe dentaire, par la représentation d’un autre organe dentaire.
3. Procédé selon la revendication immédiatement précédente, dans lequel l’organe dentaire est choisi parmi un appareil orthodontique, une couronne, un implant, un bridge, et une facette.
4. Procédé selon l’une quelconque des revendications précédentes, dans lequel l’image d’origine est une image extra-orale.
5. Procédé selon l’une quelconque des revendications précédentes, dans lequel l’image d’origine est une photo ou une vue d’un modèle tridimensionnel numérique de ladite arcade.
6. Procédé selon la revendication immédiatement précédente, dans lequel préalablement à l’étape a), on rend hyperréaliste ladite vue au moyen d’un réseau de neurones « de transformation ».
7. Procédé selon l’une quelconque des deux revendications immédiatement précédentes, dans lequel, préalablement à l’acquisition de ladite vue, on modifie ledit modèle.
8. Procédé selon la revendication immédiatement précédente, dans lequel ladite déformation consiste en :
- un déplacement d’un modèle tridimensionnel d’une dent, et/ou
- une déformation d’un modèle de dent, et/ou
- une suppression d’un modèle de dent, et/ou
- une déformation d’un modèle de mâchoire.
9. Procédé selon l’une quelconque des revendications précédentes, dans lequel, préalablement à l’étape b), le réseau de neurones de modification est entraîné avec une base d'apprentissage historique constituée d’un ensemble d’enregistrements historiques, pour représenter un appareil orthodontique sur une image d’arcade dentaire nue, chaque enregistrement historique comportant :
- une image historique choisie parmi une photo d’une scène dentaire représentant une arcade dentaire ne portant pas d’appareil orthodontique, une vue d’une scène dentaire représentant une arcade dentaire ne portant pas d’appareil orthodontique, une photo d’une scène dentaire représentant une arcade dentaire portant un appareil orthodontique, et une vue d’un modèle représentant une arcade dentaire portant un appareil orthodontique, et
- un descriptif historique précisant si l’image historique représente ou non un appareil orthodontique,
tous les appareils orthodontiques représentés sur les images historiques étant du même type.
10. Procédé selon la revendication immédiatement précédente, dans lequel le type d’appareil orthodontique regroupe les appareils multi-attaches actifs ou les gouttières orthodontiques ou les appareils de contention.
11. Procédé selon l’une quelconque des deux revendications immédiatement précédentes, dans lequel, préalablement à l’étape b), un opérateur choisit un type d’appareil orthodontique à représenter et un ordinateur spécialise la base d'apprentissage en conséquence, par exemple en ne retenant que les enregistrements historiques dont les images historiques ne représentent pas d’appareil orthodontique ou représentent un appareil orthodontique du type sélectionné.
12. Procédé selon l’une quelconque des revendications précédentes, dans lequel, à l’étape c), on présente l’image modifiée sur l’écran d’un téléphone du patient ou sur un miroir, de préférence en réalité augmentée.
13. Procédé pour augmenter l’adhésion d’un patient à un traitement orthodontique, le procédé comportant les étapes suivantes :
1) choix d’un type d’appareil orthodontique et d’un réseau de neurones entraîné pour représenter un appareil orthodontique dudit type sur des images d’arcade dentaire nue qui lui sont fournies ;
2) simulation au moyen d’un procédé de simulation selon l’une quelconque des revendications 1 à 12, l’image d’origine acquise à l’étape a) représentant une arcade dentaire nue du patient et le réseau de neurones de modification étant le réseau de neurones choisi à l’étape 1) ;
3) après l’étape c), en fonction d’un avis du patient, détermination d’un traitement orthodontique avec un appareil orthodontique du type choisi à l’étape 1) ou reprise à l’étape 1) avec un autre type d’appareil orthodontique.
PCT/EP2019/068558 2018-07-13 2019-07-10 Procede de simulation d'une situation dentaire Ceased WO2020011864A1 (fr)

Priority Applications (5)

Application Number Priority Date Filing Date Title
US17/259,516 US12303346B2 (en) 2018-07-13 2019-07-10 Method for simulating a dental situation
EP19736741.0A EP3821394A1 (fr) 2018-07-13 2019-07-10 Procede de simulation d'une situation dentaire
BR112021000501-3A BR112021000501A2 (pt) 2018-07-13 2019-07-10 Método de simulação
CN201980046736.3A CN112424820A (zh) 2018-07-13 2019-07-10 用于模拟牙齿状况的方法
US19/183,985 US20250248790A1 (en) 2018-07-13 2025-04-21 Method for simulating a dental situation

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
FR1856498 2018-07-13
FR1856498A FR3083898B1 (fr) 2018-07-13 2018-07-13 Procede de simulation d'une situation dentaire

Related Child Applications (2)

Application Number Title Priority Date Filing Date
US17/259,516 A-371-Of-International US12303346B2 (en) 2018-07-13 2019-07-10 Method for simulating a dental situation
US19/183,985 Division US20250248790A1 (en) 2018-07-13 2025-04-21 Method for simulating a dental situation

Publications (1)

Publication Number Publication Date
WO2020011864A1 true WO2020011864A1 (fr) 2020-01-16

Family

ID=63684121

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/EP2019/068558 Ceased WO2020011864A1 (fr) 2018-07-13 2019-07-10 Procede de simulation d'une situation dentaire

Country Status (6)

Country Link
US (2) US12303346B2 (fr)
EP (1) EP3821394A1 (fr)
CN (1) CN112424820A (fr)
BR (1) BR112021000501A2 (fr)
FR (1) FR3083898B1 (fr)
WO (1) WO2020011864A1 (fr)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111265317A (zh) * 2020-02-10 2020-06-12 上海牙典医疗器械有限公司 一种牙齿正畸过程预测方法
USD962437S1 (en) 2020-05-14 2022-08-30 Get-Grin Inc. Dental scope
US11638636B2 (en) 2020-02-26 2023-05-02 Get Grin Inc. Systems and methods for remote dental monitoring
US12349871B2 (en) 2022-04-22 2025-07-08 Get-Grin Inc. Systems and methods for intraoral imaging

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111180075B (zh) * 2020-03-02 2023-10-20 浙江大学 基于心脏杂音建立的动力学模型和计算机模拟仿真的方法
US20220378549A1 (en) * 2021-06-01 2022-12-01 Align Technology, Inc. Automated management of clinical modifications to treatment plans using three-dimensional controls

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018069736A1 (fr) * 2016-10-14 2018-04-19 Axial Medical Printing Limited Procédé de génération d'un modèle physique 3d d'une caractéristique anatomique spécifique d'un patient à partir d'images médicales 2d
US20180110590A1 (en) * 2016-10-20 2018-04-26 Baliram Maraj Systems and methods for dental treatment utilizing mixed reality and deep learning

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20200405447A1 (en) * 2013-09-19 2020-12-31 Dental Monitoring Method for monitoring the position of teeth
US20170169492A1 (en) * 2015-12-15 2017-06-15 Silvio Reggiardo, III Method and Structure for 3D Model Creation, Analysis, and Product Fit
US10695150B2 (en) * 2016-12-16 2020-06-30 Align Technology, Inc. Augmented reality enhancements for intraoral scanning
US10467815B2 (en) 2016-12-16 2019-11-05 Align Technology, Inc. Augmented reality planning and viewing of dental treatment outcomes
US10792127B2 (en) * 2017-01-24 2020-10-06 Align Technology, Inc. Adaptive orthodontic treatment
FR3069359B1 (fr) * 2017-07-21 2019-08-23 Dental Monitoring Procede d'analyse d'une image d'une arcade dentaire
US11321918B2 (en) * 2019-02-27 2022-05-03 3Shape A/S Method for manipulating 3D objects by flattened mesh
US10898298B1 (en) * 2020-04-08 2021-01-26 Oxilio Ltd Systems and methods for determining orthodontic treatment
US11229504B1 (en) * 2021-01-07 2022-01-25 Ortho Future Technologies (Pty) Ltd System and method for determining a target orthodontic force

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018069736A1 (fr) * 2016-10-14 2018-04-19 Axial Medical Printing Limited Procédé de génération d'un modèle physique 3d d'une caractéristique anatomique spécifique d'un patient à partir d'images médicales 2d
US20180110590A1 (en) * 2016-10-20 2018-04-26 Baliram Maraj Systems and methods for dental treatment utilizing mixed reality and deep learning

Non-Patent Citations (5)

* Cited by examiner, † Cited by third party
Title
ANONYMOUS: "Artificial neural network", WIKIPEDIA, 5 July 2018 (2018-07-05), XP055573095, Retrieved from the Internet <URL:https://en.wikipedia.org/w/index.php?title=Artificial_neural_network&oldid=849005879> [retrieved on 20190322] *
FERNANDEZ KELWIN ET AL: "Teeth/Palate and Interdental Segmentation Using Artificial Neural Networks", 17 September 2012, INTERNATIONAL CONFERENCE ON COMPUTER ANALYSIS OF IMAGES AND PATTERNS. CAIP 2017: COMPUTER ANALYSIS OF IMAGES AND PATTERNS; [LECTURE NOTES IN COMPUTER SCIENCE; LECT.NOTES COMPUTER], SPRINGER, BERLIN, HEIDELBERG, PAGE(S) 175 - 185, ISBN: 978-3-642-17318-9, XP047470107 *
KARIM ARMANIOUS ET AL: "MedGAN: Medical Image Translation using GANs", 17 June 2018 (2018-06-17), XP055573262, Retrieved from the Internet <URL:https://arxiv.org/pdf/1806.06397.pdf> *
See also references of EP3821394A1
ZHU, JUN-YAN ET AL., UNPAIRED IMAGE-TO-IMAGE TRANSLATION USING CYCLE-CONSISTENT ADVERSARIAL NETWORKS

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111265317A (zh) * 2020-02-10 2020-06-12 上海牙典医疗器械有限公司 一种牙齿正畸过程预测方法
US11638636B2 (en) 2020-02-26 2023-05-02 Get Grin Inc. Systems and methods for remote dental monitoring
US11957528B2 (en) 2020-02-26 2024-04-16 Get-Grin Inc. Systems and methods for remote dental monitoring
USD962437S1 (en) 2020-05-14 2022-08-30 Get-Grin Inc. Dental scope
USD988514S1 (en) 2020-05-14 2023-06-06 Get-Grin Inc. Dental scope
US12349871B2 (en) 2022-04-22 2025-07-08 Get-Grin Inc. Systems and methods for intraoral imaging

Also Published As

Publication number Publication date
EP3821394A1 (fr) 2021-05-19
US20250248790A1 (en) 2025-08-07
US12303346B2 (en) 2025-05-20
BR112021000501A2 (pt) 2021-04-06
FR3083898B1 (fr) 2020-10-09
FR3083898A1 (fr) 2020-01-17
US20210267716A1 (en) 2021-09-02
CN112424820A (zh) 2021-02-26

Similar Documents

Publication Publication Date Title
EP3821394A1 (fr) Procede de simulation d&#39;une situation dentaire
EP3659545B1 (fr) Système de contrôle du positionnement de dents d&#39;un patient
EP4101418B1 (fr) Systeme de fabrication d&#39;un appareil orthodontique
EP3432312B1 (fr) Procédé d&#39;analyse d&#39;une image d&#39;une arcade dentaire
EP3213293B1 (fr) Controle de la dentition
EP3212115B1 (fr) Procédé de contrôle d&#39;un traitement orthodontique
EP3796865B1 (fr) Dispositif d&#39;analyse d&#39;une situation dentaire
WO2019224056A1 (fr) Procede d&#39;analyse d&#39;une situation dentaire
EP4060621B1 (fr) Procédé de texturation pour rendre hyperréaliste un modèle tridimensionnel numérique d&#39;origine
WO2020011865A1 (fr) Procede d&#39;enrichissement d&#39;une base d&#39;apprentissage
EP4049289B1 (fr) Programme d&#39;ordinateur de generation d&#39;une image dentaire
EP3827406B1 (fr) Procede d&#39;enrichissement d&#39;une base d&#39;apprentissage
EP4348572A1 (fr) Procede d&#39;acquisition d&#39;un modele d&#39;une arcade dentaire

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 19736741

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

REG Reference to national code

Ref country code: BR

Ref legal event code: B01A

Ref document number: 112021000501

Country of ref document: BR

ENP Entry into the national phase

Ref document number: 2019736741

Country of ref document: EP

Effective date: 20210215

ENP Entry into the national phase

Ref document number: 112021000501

Country of ref document: BR

Kind code of ref document: A2

Effective date: 20210112

WWG Wipo information: grant in national office

Ref document number: 17259516

Country of ref document: US