[go: up one dir, main page]

KR102311603B1 - 단말기 및 그것의 동작 방법 - Google Patents

단말기 및 그것의 동작 방법 Download PDF

Info

Publication number
KR102311603B1
KR102311603B1 KR1020190121524A KR20190121524A KR102311603B1 KR 102311603 B1 KR102311603 B1 KR 102311603B1 KR 1020190121524 A KR1020190121524 A KR 1020190121524A KR 20190121524 A KR20190121524 A KR 20190121524A KR 102311603 B1 KR102311603 B1 KR 102311603B1
Authority
KR
South Korea
Prior art keywords
terminal
image
algorithm
censorship
video call
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
KR1020190121524A
Other languages
English (en)
Other versions
KR20210039114A (ko
Inventor
안상일
강오성
Original Assignee
주식회사 하이퍼커넥트
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 하이퍼커넥트 filed Critical 주식회사 하이퍼커넥트
Priority to KR1020190121524A priority Critical patent/KR102311603B1/ko
Priority to US17/036,915 priority patent/US11184582B2/en
Priority to JP2020165934A priority patent/JP7125688B2/ja
Priority to EP20199235.1A priority patent/EP3800879A1/en
Publication of KR20210039114A publication Critical patent/KR20210039114A/ko
Application granted granted Critical
Publication of KR102311603B1 publication Critical patent/KR102311603B1/ko
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M1/00—Substation equipment, e.g. for use by subscribers
    • H04M1/72—Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724—User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72403—User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00—Television systems
    • H04N7/14—Systems for two-way working
    • H04N7/141—Systems for two-way working between two video terminals, e.g. videophone
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00—Television systems
    • H04N7/14—Systems for two-way working
    • H04N7/141—Systems for two-way working between two video terminals, e.g. videophone
    • H04N7/147—Communication arrangements, e.g. identifying the communication as a video-communication, intermediate storage of the signals
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00—Television systems
    • H04N7/14—Systems for two-way working
    • H04N7/15—Conference systems
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M2201/00—Electronic components, circuits, software, systems or apparatus used in telephone systems
    • H04M2201/34—Microprocessors
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M2201/00—Electronic components, circuits, software, systems or apparatus used in telephone systems
    • H04M2201/38—Displays

Landscapes

  • Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Software Systems (AREA)
  • Evolutionary Computation (AREA)
  • Data Mining & Analysis (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Artificial Intelligence (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Biophysics (AREA)
  • Human Computer Interaction (AREA)
  • Molecular Biology (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • General Health & Medical Sciences (AREA)
  • Computational Linguistics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Medical Informatics (AREA)
  • Telephonic Communication Services (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Image Analysis (AREA)

Abstract

단말기의 동작 방법은, 제1 단말기와 제2 단말기 사이의 영상 통화 세션을 수립하는 단계, 제1 단말기로부터 촬영되는, 복수의 프레임을 포함하는 제1 영상을 제2 단말기에 전송하는 단계, 제2 단말기로부터 제2 단말기에 의해 촬영되는 제2 영상을 수신하는 단계, 제1 영상을 검열하기 위한 검열 알고리즘을 준비하는 단계, 검열 알고리즘을 이용하여 제1 영상에 부적절한 요소가 포함되어 있는지 판단하는 단계, 및 판단 결과에 기초하여 제1 영상의 제2 단말기로의 전송 여부를 결정하는 단계를 포함할 수 있다.

Description

단말기 및 그것의 동작 방법{MOBILE AND OPERATING METHOD THEREOF}
기재된 실시예는 상대방과 영상 통화를 하는 사용자가 상대방으로부터의 부적절한 영상에 노출되는 것을 방지할 수 있는 단말기 및 그것의 동작 방법에 관한 것이다.
통신 기술이 발전되고 전자 장치가 소형화됨에 따라 개인용 단말이 일반 소비자에게 널리 보급되고 있다. 특히 최근에는 스마트폰 또는 스마트 태블릿과 같은 휴대용 개인 단말이 널리 보급되고 있다. 상기 단말의 대부분은 통신 기능을 포함하고 있다. 사용자는 단말을 이용하여 인터넷에서 검색을 수행하거나 다른 사용자와 메시지를 주고받을 수 있다.
또한, 소형 카메라 기술, 소형 마이크 기술, 소형 디스플레이 기술 및 소형 스피커 기술의 발전에 따라 스마트폰과 같은 대부분의 단말에는 카메라, 마이크, 디스플레이 및 스피커가 포함되어 있다. 사용자는 단말을 이용하여 음성을 녹음하거나 음성이 포함된 동영상을 촬영할 수 있다. 사용자는 단말에 포함된 스피커를 통해 상기 녹음된 음성을 확인하거나 디스플레이를 통해 상기 촬영된 동영상을 확인할 수 있다.
또한, 사용자는 단말의 통신 기능을 이용하여 상기 녹음된 음성 또는 상기 촬영된 동영상을 다른 사용자와 공유할 수 있다. 사용자는 이전에 녹음된 음성 또는 이전에 촬영된 동영상을 다른 사용자에게 전송할 수 있다. 또한, 사용자는 단말에 의해 현재 녹음되고 있는 음성 또는 현재 촬영되고 있는 동영상을 실시간으로 다른 사용자에게 전송할 수 있다.
또한, 동시에, 상기 다른 사용자는 자신의 단말에 의해 현재 녹음되고 있는 음성 또는 현재 촬영되고 있는 동영상을 실시간으로 상기 사용자에게 전송할 수 있다. 사용자의 단말에 포함된 디스플레이는 사용자의 단말에 의해 현재 촬영되고 있는 동영상 및 다른 사용자의 단말에 의해 현재 촬영되고 있는 동영상을 동시에 표시할 수 있다. 또한, 사용자의 단말에 포함된 스피커는 다른 사용자의 단말에 의해 현재 녹음되고 있는 음성을 동시에 재생할 수 있다. 다시 말해서, 사용자 및 다른 사용자는 각자의 단말을 이용하여 서로 영상 통화(video call)를 할 수 있다.
상기 사용자 및 다른 사용자는 서로 이미 아는 관계일 수도 있고, 서로 모르는 관계일 수도 있다. 상기 사용자의 단말 및 상기 다른 사용자의 단말을 포함한 복수의 단말은 서버에 연결될 수 있다. 서버는 상기 사용자의 단말 및 상기 다른 사용자의 단말 사이를 중개할 수 있다. 따라서, 상기 사용자 및 다른 사용자는 서로 모르는 관계였다고 하더라도 서버의 중개를 통해 서로 영상 통화를 할 수 있다.
사용자가 상대방과 서로 영상 통화를 할 때, 사용자는 상대방으로부터의 음란한 영상에 노출될 수 있다. 특히, 사용자가 서로 모르는 관계에 있는 상대방과 영상 통화를 하는 경우 사용자가 상대방으로부터의 음란한 영상에 노출될 가능성이 높을 수 있다.
예를 들어, 상대방의 단말에 의해 촬영된 상대방의 벌거벗은 신체의 영상이 영상 통화 세션을 통해 사용자의 단말에 수신될 수 있다. 사용자의 단말이 상기 수신된 영상을 표시함으로써 사용자는 음란한 영상에 노출될 수 있다. 사용자가 자신이 원하지 않는 음란한 영상에 노출된 경우 사용자는 성적 수치심 또는 불쾌함을 느낄 수 있다.
기재된 실시예에 따르면 상대방과 영상 통화를 하는 사용자가 상대방으로부터의 음란한 영상에 노출되는 것을 방지할 수 있는 단말기 및 그것의 동작 방법이 제공될 수 있다.
또한, 상대방과 영상 통화를 하는 사용자가 상대방으로부터의 영상에 의해 느낄 수 있는 성적 수치심 또는 불쾌함을 방지할 수 있는 단말기 및 그것의 동작 방법이 제공될 수 있다.
또한, 사용자 간의 건전한 영상 통화를 유도할 수 있는 단말기 및 그것의 동작 방법이 제공될 수 있다.
본 발명의 실시예에 따른 단말기의 동작 방법은, 제1 단말기와 제2 단말기 사이의 영상 통화 세션을 수립하는 단계, 제1 단말기로부터 촬영되는, 복수의 프레임을 포함하는 제1 영상을 제2 단말기에 전송하는 단계, 제2 단말기로부터 제2 단말기에 의해 촬영되는 제2 영상을 수신하는 단계, 제1 영상을 검열하기 위한 검열 알고리즘을 준비하는 단계, 검열 알고리즘을 이용하여 제1 영상에 부적절한 요소가 포함되어 있는지 판단하는 단계, 및 판단 결과에 기초하여 제1 영상의 제2 단말기로의 전송 여부를 결정하는 단계를 포함할 수 있다.
일 개시에 의하여, 검열 알고리즘을 준비하는 단계에서는 특정 프레임에 부적절한 요소가 포함되어 있는지 여부에 대한 분류 정보를 이용하여 학습(train)된 분류 모델(classification model)을 준비할 수 있다.
일 개시에 의하여, 제1 영상에 부적절한 요소가 포함되어 있는지 판단하는 단계는 제1 영상에 포함된 복수의 프레임 각각에 검열 알고리즘을 적용하여 복수의 프레임 각각에 부적절한 요소가 포함되어 있는지 여부를 판단할 수 있다.
일 개시에 의하여, 부적절한 요소가 포함되어 있는지 판단하는 단계에서 제1 영상에 부적절한 요소가 포함되지 않은 것으로 판단되면, 제1 영상의 전송 여부를 결정하는 단계에서는, 제2 단말기와의 영상 통화 세션을 유지하고, 제1 영상의 제2 단말기로의 전송을 유지할 수 있다.
일 개시에 의하여, 단말기의 동작 방법은 제1 단말기에 의해 획득되는 소리를 제1 영상과 함께 제2 단말기에 전송하는 단계를 더 포함할 수 있다.
일 개시에 의하여, 부적절한 요소가 포함되어 있는지 판단하는 단계에서 제1 영상에 포함된 복수의 프레임 중 적어도 하나에 부적절한 요소가 포함된 것으로 판단되면, 제1 영상의 전송 여부를 결정하는 단계에서는, 부적절한 요소를 검출한 시점 이후로 제1 영상을 전송하지 않도록 결정하고, 제1 단말기에 의해 획득되는 소리를 전송하는 단계에서는, 제2 단말기에 소리를 전송하지 않도록 결정하고, 제2 단말기로부터 수신되는 제2 영상 대신, 제1 영상을 제1 단말기의 디스플레이 영역에 표시하는 단계를 더 포함할 수 있다.
일 개시에 의하여, 부적절한 요소가 포함되어 있는지 판단하는 단계에서 제1 영상에 포함된 복수의 프레임 중 적어도 하나에 부적절한 요소가 포함된 것으로 판단되면, 부적절한 요소를 검출한 시점 이후로 제1 단말기에서 촬영되는 제1 영상에 포함된 적어도 하나 이상의 프레임에 영상 처리를 수행하는 단계, 및 영상 처리된 적어도 하나 이상의 프레임을 제2 단말기에 전송하는 단계를 포함할 수 있다.
본 발명의 실시예에 따른 단말기의 동작 방법은 제1 단말기와 제2 단말기 사이에 영상 통화 세션을 준비하는 단계, 제1 단말기를 통해 획득되는 제1 영상을 준비하는 단계, 제1 영상을 검열하기 위한 검열 알고리즘을 준비하는 단계, 및 검열 알고리즘을 이용하여 제1 영상에 부적절한 요소가 포함되어 있는지 판단하는 단계, 및 판단 결과에 기초하여 제2 단말기와의 영상 통화 세션의 수립 여부를 결정하는 단계를 포함할 수 있다.
일 개시에 의하여, 부적절한 요소가 포함되어 있는지 판단하는 단계에서는, 제1 영상에 포함된 복수의 프레임 중 무작위로 선택된 프레임에 부적절한 요소가 포함되어 있는지 판단할 수 있다.
일 개시에 의하여, 부적절한 요소가 포함되어 있는지 판단하는 단계에서 제1 영상에 포함된 복수의 프레임 중 적어도 하나의 프레임에 부적절한 요소가 포함된 것으로 판단되면, 영상 통화 세션의 수립 여부를 결정하는 단계에서는, 영상 통화 세션을 수립하지 않도록 결정할 수 있다.
일 개시에 의하여, 부적절한 요소가 포함되어 있는지 판단하는 단계에서 제1 영상에 부적절한 요소가 포함되지 않은 것으로 판단되면, 영상 통화 세션의 수립 여부를 결정하는 단계에서는, 영상 통화 세션을 수립하도록 결정할 수 있다.
일 개시에 의하여, 단말기의 동작 방법은 제1 단말기로부터 영상 통화 세션의 수립 이후에 촬영되는, 복수의 프레임을 포함하는 제2 영상을 제2 단말기에 전송하는 단계, 제2 단말기로부터 제2 단말기에 의해 촬영되는 제3 영상을 수신하는 단계, 검열 알고리즘을 이용하여 제2 영상에 부적절한 요소가 포함되어 있는지 판단하는 단계, 및 판단 결과에 기초하여 제2 영상의 제2 단말기로의 전송 여부를 결정하는 단계를 더 포함할 수 있다.
일 개시에 의하여, 검열 알고리즘을 이용하여 제2 영상에 부적절한 요소가 포함되어 있는지 판단하는 단계에서 제2 영상에 부적절한 요소가 포함되지 않은 것으로 판단되면, 제2 영상의 제2 단말기로의 전송 여부를 결정하는 단계에서는, 제2 단말기와의 영상 통화 세션을 유지하고, 제2 영상의 제2 단말기로의 전송을 유지하도록 결정할 수 있다.
일 개시에 의하여, 검열 알고리즘을 이용하여 제2 영상에 부적절한 요소가 포함되어 있는지 판단하는 단계에서 제2 영상에 포함된 복수의 프레임 중 적어도 하나에 부적절한 요소가 포함된 것으로 판단되면, 제2 영상의 제2 단말기로의 전송 여부를 결정하는 단계에서는, 부적절한 요소를 검출한 시점 이후로 제1 단말기에서 촬영되는 제2 영상의 전송을 제어하고, 부적절한 요소를 검출한 시점 이후로 제2 단말기로부터 수신되는 제2 영상 대신, 제1 단말기에서 촬영되는 제2 영상을 표시하도록 제어할 수 있다.
기재된 실시예에 따르면 상대방과 영상 통화를 하는 사용자가 상대방으로부터의 음란한 영상에 노출되는 것이 방지될 수 있다.
또한, 실시예에 따르면 상대방과 영상 통화를 하는 사용자가 상대방으로부터의 영상에 의해 느낄 수 있는 성적 수치심 또는 불쾌함이 방지될 수 있다.
또한, 실시예에 따르면 사용자 간의 건전한 영상 통화가 유도될 수 있다.
도 1은 본 발명의 실시예에 따른 전자 장치가 동작하는 환경을 나타내는 시스템 구성도이다.
도 2는 본 발명의 실시예에 따른 단말기의 구성을 나타내는 블록도이다.
도 3은 본 발명의 실시예에 따른 단말기에서 영상 통화 세션을 제공하는 어플리케이션을 실행하는 방법을 보여주는 도면이다.
도 4는 본 발명의 실시예에 따른 단말기에서 영상 통화 세션이 수립되기 전에 영상을 검열하는 방법을 보여주기 위한 도면이다.
도 5는 본 발명의 다른 실시예에 따른 단말기에서 영상 통화 세션이 수립되기 전에 영상을 검열하는 방법을 보여주기 위한 도면이다.
도 6은 영상 통화 세션이 수립되기 전에 촬영되는 영상에 부적절한 요소를 포함하는지 여부에 따른 단말기의 동작 방법을 보여주는 순서도이다.
도 7 및 도 8은 제1 영상이 부적절한 요소를 포함하는지 여부에 따른 단말기의 동작 방법을 보여주는 순서도이다.
도 9는 본 발명의 다른 실시예에 따른 단말기에서 영상을 검열하는 방법을 보여주는 도면이다.
도 10은 본 발명의 실시예에 따른 단말기의 디스플레이에 표시되는 영상을 보여주는 도면이다.
도 11은 본 발명의 실시예에 따른 단말기의 디스플레이에 표시되는 영상을 보여주는 도면이다.
도 12는 본 발명의 실시예에 따른 단말기에서 촬영된 영상을 검열하는 방법을 보여주기 위한 순서도이다.
도 13 및 도 14는 제2 영상이 부적절한 요소를 포함하는지 여부에 따른 단말기의 동작 방법을 보여주는 순서도이다.
본 발명의 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술되어 있는 실시예들을 참조하면 명확해질 것이다. 그러나 본 발명은 이하에서 개시되는 실시예들에 한정되는 것이 아니라 서로 다른 다양한 형태로 구현될 것이며, 단지 본 실시예들은 본 발명의 개시가 완전하도록 하며, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 발명의 범주를 완전하게 알려주기 위해 제공되는 것이며, 본 발명은 청구항의 범주에 의해 정의될 뿐이다. 명세서 전체에 걸쳐 동일 참조 부호는 동일 구성 요소를 지칭한다.
비록 "제1" 또는 "제2" 등이 다양한 구성요소를 서술하기 위해서 사용되나, 이러한 구성요소는 상기와 같은 용어에 의해 제한되지 않는다. 상기와 같은 용어는 단지 하나의 구성요소를 다른 구성요소와 구별하기 위하여 사용될 수 있다. 따라서, 이하에서 언급되는 제1구성요소는 본 발명의 기술적 사상 내에서 제2구성요소일 수도 있다.
본 명세서에서 사용된 용어는 실시예를 설명하기 위한 것이며 본 발명을 제한하고자 하는 것은 아니다. 본 명세서에서, 단수형은 문구에서 특별히 언급하지 않는 한 복수형도 포함한다. 명세서에서 사용되는 "포함한다(comprises)" 또는 "포함하는(comprising)"은 언급된 구성요소 또는 단계가 하나 이상의 다른 구성요소 또는 단계의 존재 또는 추가를 배제하지 않는다는 의미를 내포한다.
다른 정의가 없다면, 본 명세서에서 사용되는 모든 용어는 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 공통으로 이해될 수 있는 의미로 해석될 수 있다. 또한, 일반적으로 사용되는 사전에 정의되어 있는 용어들은 명백하게 특별히 정의되어 있지 않는 한 이상적으로 또는 과도하게 해석되지 않는다.
도 1은 본 발명의 실시예에 따른 전자 장치가 동작하는 환경을 나타내는 시스템 구성도이다.
도 1을 참조하면, 복수의 전자 장치(100~300)가 동작하는 시스템 환경은 서버(400) 및 복수의 전자 장치(100~300)를 포함할 수 있다. 예를 들어, 복수의 전자 장치(100~300)가 동작하는 환경은 적어도 하나 이상의 서버를 포함할 수 있다.
복수의 전자 장치(100~300) 각각은 서버(400)를 매개로 연결될 수 있다. 본 발명의 설명의 편의를 위해, 도 1에서 세 개의 전자 장치가 도시되어 있다. 하지만, 전자 장치의 개수는 세 개로 한정되지 않는다. 복수의 전자 장치(100~300) 각각은 데스크탑 컴퓨터, 랩 탑 컴퓨터, 스마트폰, 스마트 태블릿, 스마트 워치, 이동 단말기, 디지털 카메라, 웨어러블 디바이스(wearable device), 또는 휴대용 전자기기 중 하나로써 구현될 수 있다. 복수의 전자 장치(100~300) 각각은 프로그램 또는 애플리케이션을 실행할 수 있다.
복수의 전자 장치(100~300) 각각은 통신망에 연결될 수 있다. 복수의 전자 장치(100~300) 각각은 통신망을 통해 서로 연결되거나 서버(400)와 연결될 수 있다. 복수의 전자 장치(100~300) 각각은 서로 연결된 다른 장치에 데이터를 출력하거나 다른 장치로부터 데이터를 수신할 수 있다.
복수의 전자 장치(100~300) 각각에 연결된 통신망은 유선 통신망, 무선 통신망, 또는 복합 통신망을 포함할 수 있다. 통신망은 3G, LTE, 또는 LTE-A 등과 같은 이동 통신망을 포함할 수 있다. 통신망은 와이파이(Wi-Fi), UMTS/GPRS, 또는 이더넷(Ethernet) 등과 같은 유선 또는 무선 통신망을 포함할 수 있다.
통신망은 마그네틱 보안 출력(MST, Magnetic Secure Transmission), RFID(Radio Frequency Identification), NFC(Near Field Communication), 지그비(ZigBee), Z-Wave, 블루투스(Bluetooth), 저전력 블루투스(BLE, Bluetooth Low Energy), 또는 적외선 통신(IR, InfraRed communication) 등과 같은 근거리 통신망을 포함할 수 있다.
통신망은 근거리 네트워크(LAN, Local Area Network), 도시권 네트워크(MAN, Metropolitan Area Network), 또는 광역 네트워크(WAN, Wide Area Network) 등을 포함할 수 있다.
복수의 전자 장치(100~300) 사이에 다양한 형태의 통신 세션이 수립될 수 있다. 예를 들어, 복수의 전자 장치(100~300) 중 적어도 두 개의 전자 장치들은 서로 메시지, 파일, 음성 데이터, 영상, 또는 동영상 등을 주고받을 수 있다. 예를 들어, 적어도 두 개의 전자 장치들은 TCP(Transmission Control Protocol), UDP(User Datagram Protocol), 또는 WebRTC(Web Real-Time Communication) 등을 이용하여 음성 통화 세션 또는 영상 통화(video call) 세션을 수립할 수 있다.
영상 통화 세션은 적어도 두 개의 전자 장치들 사이에 직접 수립될 수 있다. 다른 실시예에 따르면, 적어도 하나 이상의 다른 장치를 경유하여 적어도 두 개의 전자 장치들 사이에 영상 통화 세션이 수립될 수 있다. 예를 들어, 영상 통화 세션은 제1 전자 장치(100)와 서버(400) 사이에 수립된 세션 및 서버(400)와 제2 전자 장치(200) 사이에 수립된 세션을 포함할 수 있다.
서버(400)는 복수의 전자 장치(100~300)가 서로 통신을 수행할 수 있도록 연결시킬 수 있다. 예를 들어, 서버(400)는 복수의 전자 장치(100~300) 각각으로부터 매치 요청을 수신할 수 있다. 매치 요청에 응답하여, 서버(400)는 복수의 전자 장치(100~300) 중 적어도 두 개의 전자 장치들을 매칭할 수 있다.
이하에서, 발명의 설명의 편의를 위해, 전자 장치 및 단말기는 동일한 의미로 사용될 수 있다.
도 2는 본 발명의 실시예에 따른 단말기의 구성을 나타내는 블록도이다. 도 2를 참조하면, 제1 단말기(100)는 입출력 인터페이스(110), 디스플레이(120), 메모리(130), 통신 인터페이스(140), 및 프로세서(150)를 포함할 수 있다. 도 1에 도시된 제2 단말기(200) 및 제3 단말기(300) 각각은 제1 단말기(100)와 유사 또는 동일하게 구현될 수 있다.
입출력 인터페이스(110)는 외부로부터 신호를 수신할 수 있다. 입출력 인터페이스(110)는 제1 단말기(100)의 사용자로부터 신호를 수신할 수 있다. 또한, 입출력 인터페이스(110)는 외부 장치로부터 신호를 수신할 수 있다. 입출력 인터페이스(110)는 예를 들어, 마이크, 카메라, 키보드, 마우스, 트랙볼, 터치스크린, 버튼, 스위치, 센서, 네트워크 인터페이스, 또는 기타 입력 장치 등을 포함할 수 있다. 입출력 인터페이스(110)는 입출력 인터페이스(110)에 포함된 마이크를 통해 외부로부터 음성을 수신할 수 있다.
또한, 입출력 인터페이스(110)는 입출력 인터페이스(110)에 포함된 카메라(미도시)로부터 촬영된 이미지 또는 영상을 수신하거나, 단말기(100)의 사용자로부터 제스처를 수신할 수 있다. 몇몇 실시 예로서, 입출력 인터페이스(110)는 제1 단말기(100)로부터 촬영되는 영상을 수신할 수 있다. 제1 단말기(100)로부터 촬영되는 영상에는 제1 단말기(100)의 사용자의 영상이 포함될 수 있다. 제1단말기(100)로부터 수신된 영상은 제1 단말기(100)의 사용자의 영상으로 한정되지 않고, 제1 단말기(100)에서 촬영된 다양한 영상을 포함할 수 있다.
입출력 인터페이스(110)는 디스플레이(120)를 포함할 수 있다. 예를 들어, 디스플레이(120)는 LCD(Liquid Crystal Display), OLED(Organic Light Emitting Diode), 또는 PDP(Plasma Display Panel) 등의 평판 표시 장치를 포함할 수 있다. 디스플레이(120)는 곡면 디스플레이 또는 플렉서블 디스플레이(flexible display)를 포함할 수 있다. 디스플레이(120)는 터치스크린을 포함할 수 있다. 디스플레이(120)가 터치스크린을 포함하는 경우, 디스플레이(120)는 제1 단말기(100)의 사용자로부터 터치 입력을 수신할 수 있다.
디스플레이(120)는 데이터를 표시할 수 있다. 또는, 디스플레이(120)는 프로세서(150)에 의해 수행된 연산 결과를 표시할 수 있다. 또는, 디스플레이(120)는 메모리(130)에 저장된 데이터를 표시할 수 있다. 디스플레이(120)는 입출력 인터페이스(110)를 통해 수신되는 데이터 또는 통신 인터페이스(140)에 의해 수신된 데이터를 표시할 수 있다.
디스플레이(120)는 화면을 표시할 수 있다. 디스플레이(120)는 사용자 인터페이스를 표시할 수 있다. 디스플레이(120)는 사용자로부터의 입력에 대한 응답으로 다른 화면을 표시할 수 있다.
디스플레이(120)는 데이터를 표시할 수 있다. 디스플레이(120)는 프로세서(150)에서 수행된 연산 결과를 표시할 수 있다. 디스플레이(120)는 메모리(130)에 저장된 데이터를 표시할 수 있다. 디스플레이(120)는 통신 인터페이스(140)에 수신된 데이터를 표시할 수 있다. 예를 들어, 디스플레이(120)는 서버(400) 또는 제2 단말기 (200) 또는 제3 단말기(300)로부터 수신되는 영상을 표시할 수 있다. 다른 예로서, 디스플레이(120)는 입출력 인터페이스(110)에 수신되는 영상을 표시할 수 있다.
디스플레이(120)는 예를 들어, LCD(Liquid Crystal Display), OLED(Organic Light Emitting Diode), 또는 PDP(Plasma Display Panel) 등의 평판 표시 장치를 포함할 수 있다. 디스플레이(120)는 곡면 디스플레이 또는 플렉서블 디스플레이(flexible display)를 포함할 수 있다. 디스플레이(120)는 터치스크린을 포함할 수 있다.
메모리(130)는 데이터를 저장할 수 있다. 메모리(130)는 입출력 인터페이스(110)로부터 수신된 음성 데이터, 이미지 데이터 또는 사용자의 프로필 정보를 저장할 수 있다. 그리고, 메모리(130)는 프로세서(150)에 의해 수행된 연산 결과를 저장할 수 있다. 예를 들어, 메모리(130)는 프로세서(150)에 의해 인코딩된 음성을 저장할 수 있다. 메모리(130)는 통신 인터페이스(140)를 통해 외부에 출력할 데이터를 저장하거나 통신 인터페이스(140)를 통해 외부로부터 수신된 데이터를 저장할 수 있다.
메모리(130)는 소프트웨어 또는 프로그램을 저장할 수 있다. 예를 들어, 메모리(130)는 애플리케이션, 애플리케이션 프로그래밍 인터페이스(API) 등과 같은 프로그램 및 다양한 종류의 데이터를 저장할 수 있다. 메모리(130)는 프로세서(150)에 의해 실행 가능한 명령어들을 저장할 수 있다.
메모리(130)는 휘발성 메모리 또는 비휘발성 메모리 중 적어도 하나를 포함할 수 있다. 메모리(130)는 예를 들어, 플래시(flash) 메모리, ROM(Read Only Memory), RAM(Random Access Memory), EEROM(Electrically Erasable ROM), EPROM(Erasable Programmable ROM), EEPROM(Electrically Erasable Programmable ROM), 하드디스크 드라이브(HDD, Hard Disk Drive), 또는 레지스터(register) 중 적어도 하나를 포함할 수 있다. 메모리(130)는 예를 들어, 파일 시스템, 데이터베이스, 또는 임베디드 데이터베이스 등을 포함할 수 있다.
통신 인터페이스(140)는 단말기(100)의 외부에 데이터를 출력하거나 외부로부터 데이터를 수신할 수 있다. 통신 인터페이스(140)는 서버(400) 또는 외부 장치에 데이터를 출력할 수 있다. 통신 인터페이스(140)는 서버(400) 및 외부 장치로부터 데이터를 수신할 수 있다. 통신 인터페이스(140)는 프로세서(150)에 의해 수행된 연산 결과를 외부에 출력할 수 있다.
몇몇 실시 예로서, 제1 단말기(100)에서 영상 통화 세션을 제공하는 어플리케이션이 실행되는 경우, 통신 인터페이스(140)는 제2 단말기(200) 또는 제3 단말기(300)로부터 영상 또는 음성을 수신할 수 있다.
또한, 제1 단말기(100)에서 영상 통화 세션을 제공하는 어플리케이션이 실행되는 경우, 통신 인터페이스(140)는 제1 단말기(100)의 사용자로부터 촬영된 영상 또는 제1 단말기(100)의 사용자의 음성을 제2 단말기(200) 또는 제3 단말기(300)에 전송할 수 있다.
통신 인터페이스(140)는 예를 들어, 3G 모듈, LTE 모듈, LTE-A 모듈, Wi-Fi 모듈, 와이기그(WiGig) 모듈, UWB(Ultra Wide Band) 모듈, 또는 랜카드 등과 같은 원거리용 네트워크 인터페이스를 포함할 수 있다. 또한, 통신 인터페이스(140)는 마그네틱 보안 출력(MST) 모듈, 블루투스 모듈, NFC 모듈, RFID 모듈, 지그비(ZigBee) 모듈, Z-Wave 모듈, 또는 적외선 모듈 등과 같은 근거리용 네트워크 인터페이스를 포함할 수 있다. 또한, 통신 인터페이스(140)는 기타 네트워크 인터페이스를 포함할 수 있다.
프로세서(150) 또는 프로세서(150)에 포함된 구성 요소들 각각은 소프트웨어(software) 또는 하드웨어(hardware) 형태로 구현될 수 있다. 예시적으로, 소프트웨어는 기계코드, 펌웨어 코드(firmware code), 임베디드 코드(embedded code), 및 애플리케이션(application) 등과 같은 프로그램 실행 명령어들로써 구현될 수 있다. 하드웨어는 전기 전자 회로, 프로세서, 컴퓨터, 압력 센서, 관성 센서, MEMS(microelectromechanical system), 수동 소자들, 또는 그것들의 조합일 수 있다.
프로세서(150)는 단말기(100)의 동작을 제어할 수 있다. 프로세서(150)는 단말기(100)에 포함된 각각의 구성요소와 서로 연결될 수 있고, 단말기(100)에 포함된 각각의 구성요소의 동작을 제어할 수 있다. 프로세서(150)는 입출력 인터페이스(110)에 의해 수신된 신호에 대한 응답으로, 단말기(100)의 동작을 제어할 수 있다.
몇몇 실시 예로서, 제1 단말기(100)가 영상 통화 세션을 제공하는 어플리케이션이 실행하는 경우, 프로세서(150)는 입출력 인터페이스(110)를 통해 수신되는 제1 단말기(100)의 사용자의 영상을 인식할 수 있다. 프로세서(150)는 제1 단말기(100)의 사용자의 영상을 검열할 수 있다.
몇몇 실시예로서, 프로세서(150)는 준비된 학습 모델을 이용하여 제1 단말기(100)의 사용자의 영상을 검열할 수 있다. 다른 실시 예로서, 프로세서(150)는 준비된 학습 모델을 이용하여 제1 단말기(100)의 사용자의 영상을 구성하는 하나의 프레임을 무작위로 선택하여 검열할 수 있다.
복수의 단말기(100~300) 및 서버(400)의 자세한 동작 방법은 도 3 내지 도 14를 참조하여 설명될 수 있다.
도 3은 본 발명의 실시예에 따른 단말기에서 영상 통화 세션을 제공하는 어플리케이션을 실행하는 방법을 보여주는 도면이다.
도 1 내지 도 3을 참조하면, 제1 단말기(100)의 사용자는 영상 통화 세션을 제공하는 어플리케이션을 실행할 수 있다. 제1 단말기(100)의 사용자는 영상 통화 세션을 제공하는 어플리케이션을 통해 복수의 단말기(100~300) 중 제1 단말기(100)를 제외한 하나의 단말기와 매치될 수 있다. 몇몇 실시예로서, 제1 단말기(100)와 매치되는 단말기는 실시간 중개 방송을 제공하는 어플리캐이션을 통해 무작위로 선택될 수 있다.
본 발명의 설명의 편의를 위해 제1 단말기(100)와 매치되는 단말기는 제2 단말기(200)인 것으로 가정할 수 있다. 다만, 제1 단말기(100)와 매치되는 단말기는 제2 단말기(200)로 한정되지 않을 것이다.
몇몇 실시예로서, 제1 단말기(100)가 제2 단말기(200)와 매치되면, 제1 단말기(100)의 디스플레이(120)에는 제2 단말기(200)로부터 수신된 영상 및 제1 단말기(100)에서 촬영된 영상이 표시될 수 있다. 몇몇 실시 예로서, 제2 단말기(200)로부터 수신된 영상에는 제2 단말기(200)의 사용자의 영상이 포함될 수 있다. 제2 단말기(200)로부터 수신된 영상은 제2 단말기(200)의 사용자의 영상으로 한정되지 않고, 제2 단말기(200)로부터 촬영된 다양한 영상을 포함할 수 있다.
몇몇 실시예로서, 제1 단말기(100)의 디스플레이(120) 전체 영역에 제2 단말기(200)로부터 수신된 영상이 표시될 수 있다. 그리고, 디스플레이(120)의 일부 영역(121)에 제1 단말기(100)에서 촬영된 영상이 표시될 수 있다. 동시에 제1 단말기(100)에서 촬영된 영상은 통신 인터페이스(140)를 통해 제2 단말기(200)로 출력될 수 있다.
몇몇 실시예로서, 제1 단말기(100)의 프로세서(150)는 제1 단말기(100)에서 촬영된 영상을 표시 및 출력하기 전에 검열할 수 있다. 좀 더 구체적으로 제1 단말기(100)의 프로세서(150)는 제1 단말기(100)에서 촬영된 영상이 부적절한 요소를 포함하고 있는지 여부에 대해 판단하고, 제1 단말기(100)에서 촬영된 영상이 부적절한 요소를 포함한 경우, 검열할 수 있다. 제1 단말기(100)의 프로세서의 동작은 도 5 내지 도 14를 참조하여 자세히 설명될 수 있다.
도 4는 본 발명의 실시예에 따른 단말기에서 영상 통화 세션이 수립되기 전에 영상을 검열하는 방법을 보여주기 위한 도면이다.
도 2 및 도 4를 참조하면, 제1 단말기(100)의 프로세서(150)가 영상 통화 세션을 제공하는 어플리케이션을 실행하면 제1 단말기(100)의 입출력 인터페이스(110)를 통해 영상이 수신될 수 있다. 몇몇 실시예로서, 제1 단말기(100)가 특정 단말기와 영상 통화 세션이 수립되기 전, 대기 시간동안 입출력 인터페이스(110)를 통해 영상이 수신될 수 있다. 대기 시간동안 수신되는 영상에는 복수의 프레임이 포함될 수 있다. 대기 시간동안 수신되는 영상은 제1 영상(IMG1)인 것으로 가정할 수 있다.
프로세서(150)는 검열 알고리즘을 이용하여 제1 영상(IMG1)에 포함된 복수의 프레임 중 적어도 하나의 프레임을 검열할 수 있다. 몇몇 실시예로서, 적어도 하나의 프레임은 복수의 프레임 중 무작위로 선택될 수 있다. 예를 들어, 선택된 프레임은 제1 프레임(FR1)로 가정할 수 있다.
프로세서(150)는 제1 프레임(FR1)에 부적절한 요소가 포함되어 있는지 여부를 검열 알고리즘을 이용하여 판단할 수 있다.
몇몇 실시예로서, 검열 알고리즘은 심층 신경망(Deep Neural Network, DNN), 합성곱 신경망(Convolutional Neural Network, CNN), 순환 신경망(Recurrent Neural Network, RNN), R-CNN(Region-based Convolutional Neural Networks), 제한 볼츠만 머신 (Restricted Boltzmann Machine, RBM), 심층 신뢰 신경망 (Deep Belief Network, DBN), 또는 심층 큐 네트워크(Deep Q-Networks) 중에 서 적어도 하나 이상을 포함할 수 있다.
몇몇 실시예로서, 검열 알고리즘은 합성곱 신경망(Convolutional Neural Network, CNN)일 수 있다. 검열 알고리즘은 AlexNet, ZFNet, GoogLeNet, VGGNet, ResNet, Inception-ResNet, Inception-v2, Inception-v3, 또는 Inception-v4를 포함할 수 있다.
검열 알고리즘은 적어도 둘 이상의 레이어(layer)를 포함하는 뉴럴 네트워크(neural network)일 수 있다. 기검열 알고리즘은 입력 레이어(input layer) 및 출력 레이어(output layer)를 포함할 수 있다. 검열 알고리즘은 적어도 하나이상의 은닉 레이어(hidden layer)를 더 포함할 수 있다.
검열 알고리즘은 특정 영상 프레임 및 특정 프레임에 부적절한 요소가 포함되어 있는지 여부에 대한 분류 정보를 이용하여 학습(train)된 분류 모델(classification model)일 수 있다. 특정 영상 프레임은 영상 통화 세션 또는 다른 출처를 통해 미리 수집될 수 있다.
특정 영상 프레임은 부적절한 요소를 포함하는 부적절한 영상 프레임 또는 부적절한 요소를 포함하지 않고, 정상적인 요소를 포함하는 정상적인 영상 프레임 중 적어도 하나를 포함할 수 있다. 분류 정보는 각각의 특정 영상 프레임이 부적절한 영상 프레임인지 또는 정상적인 영상 프레임인지 여부에 대응하는 태그(tag) 정보일 수 있다.
몇몇 실시예로서, 부적절한 요소는 욕 제스처, 모욕 제스처, 인종차별 제스처, 성적 컨텐츠, 알몸 노출(nudity), 성기, 성행위, 비위생적 컨텐츠, 배설물, 배설 행위, 반사회적 컨텐츠, 반인륜적 컨텐츠, 불법 행위, 범죄 행위, 증오범죄(hate crime), 폭력 행위, 학대 행위, 자해 행위, 무기, 마약, 반사회적 심볼, 혐오성(hateful) 컨텐츠, 위협성 컨텐츠, 공포증 유발(phobia-inducing) 컨텐츠, 또는 혈액 중에서 적어도 하나 이상에 대응할 수 있다. 부적절한 요소는 상술된 실시예에 한정되지 않고, 혐오를 유발하는 다양한 요소를 포함할 수 있다.
제1 단말기(100)는 통신 인터페이스(140)를 통해 검열 알고리즘을 서버(400)로부터 수신할 수 있다. 수신된 검열 알고리즘은 제1 단말기(100)의 메모리(130)에 저장될 수 있다. 몇몇 실시예로서, 검열 알고리즘은 영상 통화 세션을 제공하는 어플리케이션에 포함될 수 있고, 제1 단말기(100)는 통신 인터페이스(140)를 통해 검열 알고리즘이 포함된 영상 통화 세션을 제공하는 어플리케이션을 수신할 수 있다. 그리고, 영상 통화 세션을 제공하는 어플리케이션은 제1 단말기(100)의 메모리(130)에 저장될 수 있다.
프로세서(150)는 제1 프레임(FR1)을 검열 알고리즘의 입력값으로서 취할 수 있다. 프로세서(150)는 검열 알고리즘을 이용하여 제1 프레임(FR1)이 정상적인 요소를 포함하는지 또는 부적절한 요소를 포함하는지 여부를 판단할 수 있다.
몇몇 실시예로서, 검열 알고리즘을 이용하여 판단한 결과, 제1 프레임(FR1)에 부적절한 요소가 포함되지 않은 것으로 판단할 수 있다. 제1 프레임(FR1)에 부적절한 요소가 포함되지 않은 것으로 판단되는 경우, 프로세서(150)는 제1 영상(IMG1)이 정상적인 영상인 것으로 판단할 수 있다.
제1 영상(IMG1)이 정상적인 영상인 것으로 판단되는 경우, 프로세서(150)는 영상 통화 세션을 제공하는 어플리케이션을 통해 제1 단말기(100)와 복수의 단말기 중 하나의 단말기 사이의 영상 통화 세션을 수립할 수 있다.
도 5는 본 발명의 다른 실시예에 따른 단말기에서 영상 통화 세션이 수립되기 전에 영상을 검열하는 방법을 보여주기 위한 도면이다.
도 2 및 도4, 도 5를 참조하면, 제1 단말기(100)가 특정 단말기와 영상 통화 세션이 수립되기 전, 대기 시간동안 입출력 인터페이스(110)를 통해 영상이 수신될 수 있다. 대기 시간동안 수신되는 영상에는 복수의 프레임이 포함될 수 있다.
프로세서(150)는 검열 알고리즘을 이용하여 제1 영상(IMG1)에 포함된 복수의 프레임 중 적어도 하나의 프레임을 검열할 수 있다. 몇몇 실시예로서, 적어도 하나의 프레임은 복수의 프레임 중 무작위로 선택될 수 있다. 예를 들어, 선택된 프레임은 제2 프레임(FR2)로 가정할 수 있다.
프로세서(150)는 제2 프레임(FR2)에 부적절한 요소가 포함되어 있는지 여부를 검열 알고리즘을 이용하여 판단할 수 있다. 프로세서(150)는 제2 프레임(FR2)을 검열 알고리즘의 입력값으로서 취할 수 있다. 프로세서(150)는 검열 알고리즘을 이용하여 제2 프레임(FR2)이 정상적인 요소를 포함하는지 또는 부적절한 요소를 포함하는지 여부를 판단할 수 있다.
몇몇 실시예로서, 검열 알고리즘을 이용하여 판단한 결과, 제2 프레임(FR2)에 부적절한 요소가 포함되어 있는 것으로 판단할 수 있다. 제2 프레임(FR2)에 부적절한 요소가 포함되어 있는 것으로 판단되는 경우, 프로세서(150)는 제1 영상(IMG1)이 부적절한 영상인 것으로 판단할 수 있다.
제1 영상(IMG1)이 부적절한 영상인 것으로 판단되는 경우, 프로세서(150)는 제1 단말기(100)의 사용자에게 영상 통화 세션 서비스의 제공을 제한할 수 있다.
도 4 및 도 5를 참조하여 설명한 바와 같이, 프로세서(150)는 검열 알고리즘을 기반으로 제1 영상(IMG1)에 포함된 복수의 프레임 중 하나의 프레임이 정상적인 요소를 포함하는지 또는 부적절한 요소를 포함하는지 여부를 판단할 수 있다. 본 발명은 개시된 실시예에 한정되지 않고, 프로세서(150)는 제1 영상(IMG1)에 포함된 복수의 프레임 중 두 개 이상의 프레임을 선택할 수 있고, 검열 알고리즘을 이용하여 두 개 이상의 프레임 각각에 정상적인 요소를 포함하는지 또는 부적절한 요소를 포함하는지 여부를 판단할 수 있다.
도 6은 영상 통화 세션이 수립되기 전에 촬영되는 영상에 부적절한 요소를 포함하는지 여부에 따른 단말기의 동작 방법을 보여주는 순서도이다.
도 2, 도 4 내지 도 6을 참조하면, S110 단계에서, 제1 단말기(100)의 입출력 인터페이스(110)는 제1 단말기(100)가 특정 단말기와 영상 통화 세션이 수립되기 전에 촬영되는 제1 영상을 수신할 수 있다. 대기 시간동안 수신되는 영상에는 복수의 프레임이 포함될 수 있다.
S120 단계에서, 제1 단말기(100)의 프로세서(150)는 제3 영상을 겸열하기 위한 검열 알고리즘을 준비할 수 있다. 제1 단말기(100)는 인공지능 기술을 이용하여 학습된 검열 알고리즘은 영상 통화 세션을 제공하는 어플리케이션에 포함될 수 있고, 제1 단말기(100)는 통신 인터페이스(140)를 통해 검열 알고리즘이 포함된 영상 통화 세션을 제공하는 어플리케이션을 수신할 수 있다.
S130 단계에서, 제1 단말기(100)의 프로세서(150)는 검열 알고리즘을 이용하여 제3 영상에 포함된 복수의 프레임 중 적어도 하나의 프레임에 부적절한 오브젝트가 포함되어 있는지 판단할 수 있다. 몇몇 실시예로서, 프로세서(150)는 복수의 프레임 중 적어도 하나의 프레임을 선택하고, 선택된 적어도 하나의 프레임을 검열 알고리즘의 입력값으로 취할 수 있다.
도 7 및 도 8은 제1 영상이 부적절한 요소를 포함하는지 여부에 따른 단말기의 동작 방법을 보여주는 순서도이다.
도 6 및 도 7을 참조하면, S131 단계에서, 제1 단말기(100)의 프로세서(150)는 적어도 하나의 프레임에 부적절한 요소가 포함되어 있는 것으로 판단할 수 있다. 몇몇 실시예로서, 적어도 하나의 프레임에 부적절한 요소가 포함된 것으로 판단되는 경우, 프로세서(150)는 제1 영상이 부적절한 영상인 것으로 판단할 수 있다.
S133 단계에서, 제1 영상이 부적절한 영상인 것으로 판단되는 경우, 프로세서(150)는 제1 단말기(100)의 사용자에게 영상 통화 세션 서비스의 제공을 제한할 수 있다.
도 6 및 도 8을 참조하면, S132 단계에서, 제1 단말기(100)의 프로세서(150)는 적어도 하나의 프레임에 부적절한 요소가 포함되지 않은 것으로 판단할 수 있다. 몇몇 실시예로서, 적어도 하나의 프레임에 부적절한 요소가 포함되지 않은 것으로 판단되는 경우, 프로세서(150)는 제1 영상이 정상적인 영상인 것으로 판단할 수 있다.
S134 단계에서, 제1 영상이 정상적인 영상인 것으로 판단되는 경우, 프로세서(150)는 영상 통화 세션을 제공하는 어플리케이션을 통해 제1 단말기(100)와 복수의 단말기 중 하나의 단말기 사이의 영상 통화 세션을 수립할 수 있다.
도 9는 본 발명의 다른 실시예에 따른 단말기에서 영상을 검열하는 방법을 보여주는 도면이다.
도 2 및 도 9를 참조하면, 프로세서(150)는 입출력 인터페이스(110)로부터 제1 단말기(100)에서 촬영된 제2 영상(IMG2)을 수신할 수 있다. 제2 영상(IMG2)은 복수의 프레임을 포함할 수 있다. 프로세서(150)는 제2 영상(IMG2)을 검열하기 위한 검열 알고리즘을 준비할 수 있다. 본 발명의 실시예로서, 제2 영상(IMG2)은 제2 단말기(200)와 영상 통화 세션이 수립된 이후에 수신되는 영상을 의미할 수 있다.
몇몇 실시예로서, 프로세서(150)는 이용하여 제2 영상(IMG2)에 포함된 복수의 프레임 각각을 검열할 수 있다.
제1 단말기(100)는 통신 인터페이스(140)를 통해 검열 알고리즘을 서버(400)로부터 수신할 수 있다. 수신된 검열 알고리즘은 제1 단말기(100)의 메모리(130)에 저장될 수 있다. 몇몇 실시예로서, 검열 알고리즘은 영상 통화 세션을 제공하는 어플리케이션에 포함될 수 있고, 제1 단말기(100)는 통신 인터페이스(140)를 통해 검열 알고리즘이 포함된 영상 통화 세션을 제공하는 어플리케이션을 수신할 수 있다. 그리고, 영상 통화 세션을 제공하는 어플리케이션은 제1 단말기(100)의 메모리(130)에 저장될 수 있다.
프로세서(150)는 제2 영상(IMG2)에 포함된 복수의 프레임 각각에 부적절한 요소가 포함되어 있는지 여부를 검열 알고리즘을 이용하여 판단할 수 있다. 프로세서(150)는 복수의 프레임 각각을 검열 알고리즘의 입력값으로서 취할 수 있다. 프로세서(150)는 검열 알고리즘을 이용하여 복수의 프레임 각각이 정상적인 요소를 포함하는지 또는 부적절한 요소를 포함하는지 여부를 판단할 수 있다.
몇몇 실시예로서, 복수의 프레임 중 적어도 하나의 프레임에서 부적절한 요소가 포함되어 있는 것으로 판단되는 경우, 프로세서(150)는 제1 단말기(100)에서 촬영된 영상의 제2 단말기(200)로의 출력을 제어할 수 있다. 또는, 프로세서(150)는 부적절한 요소가 포함된 프레임 이후에 수신되는 적어도 하나 이상의 프레임에 영상 처리를 수행하고, 영상 처리된 적어도 하나 이상의 프레임을 제2 단말기(200)로 출력할 수 있다. 또한, 프로세서(150)는 제1 단말기(100)의 디스플레이(120)에 제2 단말기(200)로부터 수신된 영상이 아닌, 제1 단말기(100)에서 촬영된 영상이 표시되도록 입출력 인터페이스(110)를 제어할 수 있다.
다른 실시예로서, 복수의 프레임 중 적어도 하나의 프레임에서 부적절한 요소가 포함되어 있지 않은 것으로 판단되는 경우, 프로세서(150)는 제2 단말기(200)와의 영상 통화 세션을 유지할 수 있다. 제1 단말기(100) 및 제2 단말기(200) 사이의 영상 통화 세션은 제1 단말기(100)의 사용자 또는 제2 단말기(200)의 사용자 중 한 명에 의해 중단 요청이 수신되기 전까지 유지될 수 있다.
도 10은 본 발명의 실시예에 따른 단말기의 디스플레이에 표시되는 영상을 보여주는 도면이다.
도 2, 도 9 및 도 10을 참조하면, 제1 단말기(100) 및 제2 단말기 사이의 영상 통화 세션이 수립되면, 제1 단말기(100)의 프로세서(150)는 제1 단말기(100)에서 촬영된 제21 영상(IMG2)에 포함된 복수의 프레임을 검열 알고리즘을 이용하여 검열할 수 있다.
몇몇 실시예로서, 프로세서(150)는 검열 알고리즘을 이용하여 복수의 프레임을 순차적으로 검열하고, 복수의 프레임 중 적어도 하나의 프레임에서 부적절한 요소가 포함된 것으로 판단되는 경우, 제1 단말기(100)의 디스플레이(120)에 제1 단말기(100)에서 촬영된 영상이 표시되도록 제어할 수 있다.
몇몇 실시예로서, 복수의 프레임 중 적어도 하나의 프레임에서 부적절한 요소가 포함된 것으로 판단되는 경우, 프로세서(150)는 제1 단말기(100)의 사용자를 불량한 사용자로 판단할 수 있다. 따라서, 프로세서(150)는 부적절한 요소를 검출한 시점 이후로, 제2 단말기(200)로부터 수신된 영상이 출력되지 않도록 디스플레이(120)를 제어할 수 있다. 또한, 프로세서(150)는 제2 단말기(200)로부터 수신된 영상 대신 부적절한 요소를 검출한 시점 이후로 제1 단말기(100)에서 촬영되는 영상이 출력되도록 디스플레이(120)를 제어할 수 있다.
기재된 실시예는 영상 통화 세션을 제공하는 어플리케이션을 사용하는 사용자의 영상이 불량한 사용자에게 노출되는 것을 방지할 수 있다.
도 11은 본 발명의 실시예에 따른 단말기의 디스플레이에 표시되는 영상을 보여주는 도면이다.
도 2, 도 9 내지 도 11을 참조하면, 프로세서(150)는 검열 알고리즘을 이용하여 복수의 프레임을 순차적으로 검열하고, 복수의 프레임 중 적어도 하나의 프레임에서 부적절한 요소가 포함된 것으로 판단되는 경우, 부적절한 요소를 검출한 시점 이후로 제1 단말기(100)에서 촬영되는 영상에 영상 처리를 수행할 수 있다.
몇몇 실시예로서, 프로세서(150)는 부적절한 요소를 검출한 시점 이후로 제1 단말기(100)에서 촬영되는 영상에 포함된 대상 프레임들 각각에 영상 처리를 수행할 대상 영역을 선택할 수 있다. 프로세서(150)는 대상 프레임들 각각 내에서 피부색에 대응하는 영역 또는 전체 영역을 대상 영역으로서 선택할 수 있다.
피부색은 적어도 하나 이상의 색상을 가리킬 수 있다. 각각의 사람이 갖는 피부색은 서로 다를 수 있으므로, 프로세서(150)는 여러 가지의 피부색에 대응하는 영역을 대상 영역으로 검출할 수 있다. 선택된 대상 영역에 포함된 각각의 픽셀(pixel)은 피부색을 가질 수 있다.
몇몇 실시예로서, 프로세서(150)는 대상 영역에 모자이크(mosaic) 효과 또는 블러(blur) 효과를 적용할 수 있다. 다른 실시예로서, 프로세서(150)는 대상 영역에 색상, 명도, 대비(contrast) 또는 채도를 조절할 수 있다. 다른 실시예로서, 프로세서(150)는 상술된 영상 처리의 조합을 수행할 수 있다. 다른 실시예로서, 프로세서(150)는 대상 영역을 다른 영상으로 치환할 수 있다. 프로세서(150)는 영상 처리된 영상이 제2 단말기(200)로 출력되도록 통신 인터페이스(140)를 제어할 수 있다.
몇몇 실시예로서, 프로세서(150)는 제1 단말기(100)의 입출력 인터페이스(110)로 수신되는 소리가 제2 단말기(200)로 출력되지 않도록 통신 인터페이스(140)를 제어할 수 있다. 부적절한 요소를 포함하는 영상을 제공하는 사용자는 부적절한 요소가 포함된 음성을 제공할 확률도 높기 때문에, 제1 단말기(100)의 프로세서(150)는 소리의 출력도 제한할 수 있다.
도 12는 본 발명의 실시예에 따른 단말기에서 촬영된 영상을 검열하는 방법을 보여주기 위한 순서도이다.
도 2, 도 9 내지 도 12를 참조하면, S210 단계에서, 제1 단말기(100)는 제2 단말기(200)와 영상 통화 세션을 수립할 수 있다. 몇몇 실시예로서, 제1 단말기(100)의 프로세서(150)는 영상 통화 세션을 제공하는 어플리케이션을 실행하고, 어플리케이션을 통해 제2 단말기(200)와 매치될 수 있다.
S220 단계에서, 영상 통화 세션이 수립된 이후, 제1 단말기(100)는 제2 영상을 촬영하고, 촬영된 영상을 제2 단말기(200)로 전송할 수 있다. 몇몇 실시예로서, 제2 영상은 복수의 프레임으로 구성될 수 있다.
S230 단계에서, 제1 단말기(100)는 통신 인터페이스(140)를 통해 제2 단말기(200)로부터 제3 영상을 수신하고, 수신된 제3 영상을 디스플레이(120)를 통해 표시할 수 있다. 몇몇 실시예로서, 제2 단말기(200)로부터 수신된 제3 영상은 제2 단말기(200)를 통해 촬영된 영상을 포함할 수 있다.
S240 단계에서, 제1 단말기(100)의 프로세서(150)는 제2 영상을 겸열하기 위한 검열 알고리즘을 준비할 수 있다. 몇몇 실시예로서, 검열 알고리즘은 인공지능(Artificial Intelligence, AI) 시스템을 통해 생성될 수 있다.
인공지능 시스템은 인간 수준의 지능을 구현하는 컴퓨터 기계가 스스로 학습하고 판단하여 정확도를 높여나가는 시스템이다.
인공지능 시스템은 사용할수록 반복되는 학습에 의해서 산출되는 결과의 정확도가 향상되고 사용자의 의도를 보다 정확하게 반영할 수 있게 되어, 기존의 규정 기반 스마트 시스템은 점차 딥러닝(Deep learning) 기반 인공지능 시스템으로 대체되고 있다.
인공지능 기술은 기계학습을 이용하는 기술이라 할 수 있으며, 딥러닝은 기계학습의 하나의 종류라 할 수 있다. 딥러닝은 입력 데이터들의 특징을 스스로 분류 및 학습하는 알고리즘 기술이다. 그리고, 요소 기술은 딥러닝 등의 기계학습 알고리즘을 활용하여 인간 두뇌의 인지, 판단 등의 기능을 모사하는 기술로서, 언어적 이해, 시각적 이해, 추론/예측, 지식 표현, 동작 제어 등의 기술 분야로 구성된다.
상술한 바와 같이, 제1 단말기(100)는 인공지능 기술을 이용하여 학습된 검열 알고리즘은 영상 통화 세션을 제공하는 어플리케이션에 포함될 수 있고, 제1 단말기(100)는 통신 인터페이스(140)를 통해 검열 알고리즘이 포함된 영상 통화 세션을 제공하는 어플리케이션을 수신할 수 있다.
S250 단계에서, 제1 단말기(100)의 프로세서는 검열 알고리즘을 이용하여 제2 영상에 포함된 복수의 프레임 각각에 부적절한 요소의 포함 여부를 판단할 수 있다. 몇몇 실시예로서, 프로세서(150)는 복수의 프레임 각각을 입력값으로서 취할 수 있다. 프로세서(150)는 검열 알고리즘을 이용하여 복수의 프레임 각각이 정상적인 요소를 포함하는지 또는 부적절한 요소를 포함하는지 여부를 판단할 수 있다.
도 13 및 도 14는 제2 영상이 부적절한 요소를 포함하는지 여부에 따른 단말기의 동작 방법을 보여주는 순서도이다.
도 12 및 도 14를 참조하면, S251단계에서, 제1 단말기(100)의 프로세서(150)는 복수의 프레임 중 적어도 하나의 프레임에서 부적절한 요소가 포함되어 있지 않은 것으로 판단할 수 있다.
S253 단계에서, 프로세서(150)는 제2 단말기(200)와의 영상 통화 세션을 유지할 수 있다. 제1 단말기(100) 및 제2 단말기(200) 사이의 영상 통화 세션은 제1 단말기(100)의 사용자 또는 제2 단말기(200)의 사용자 중 한 명에 의해 중단 요청이 수신되기 전까지 유지될 수 있다.
도 12 및 도 14를 참조하면, S252 단계에서, 제1 단말기(100)의 프로세서(150)는 복수의 프레임 중 적어도 하나의 프레임에서 부적절한 요소가 포함되어 있는 것으로 판단할 수 있다.
S254 단계에서, 제1 단말기(100)의 프로세서는 제2 영상의 출력을 제어하고, 입출력 인터페이스(110)를 통해 수신되는 소리의 출력을 중지시킬 수 있다. 몇몇 실시예로서, 프로세서(150)는 제1 단말기(100)에서 촬영된 영상의 제2 단말기(200)로의 출력을 제어할 수 있다. 또는, 프로세서(150)는 부적절한 요소가 포함된 프레임 이후에 수신되는 적어도 하나 이상의 프레임에 영상 처리를 수행하고, 영상 처리된 적어도 하나 이상의 프레임을 제2 단말기(200)로 출력할 수 있다.
그리고, 프로세서(150)는 제1 단말기(100)의 입출력 인터페이스(110)로 수신되는 소리가 제2 단말기(200)로 출력되지 않도록 통신 인터페이스(140)를 제어할 수 있다.
S256 단계에서, 제1 단말기(100)의 프로세서는 제1 단말기(100)의 디스플레이(120)에 제2 영상을 표시할 수 있다. 몇몇 실시예로서, 프로세서(150)는 부적절한 요소를 검출한 시점 이후로, 제2 단말기(200)로부터 수신된 영상이 출력되지 않도록 디스플레이(120)를 제어할 수 있다. 또한, 프로세서(150)는 제2 단말기(200)로부터 수신된 영상 대신 부적절한 요소를 검출한 시점 이후로 제2 영상이 출력되도록 디스플레이(120)를 제어할 수 있다.
도 1 내지 도 14를 참조하여 설명한 바와 같이, 복수의 단말기(100~300) 각각의 사용자는 영상 통화 세션을 제공하는 어플리케이션을 통해 상대방과 영상 통화를 수행할 때, 상대방으로부터의 음란한 영상에 노출되는 것이 방지될 수 있다.
또한, 복수의 단말기(100~300) 각각의 사용자는 영상 통화 세션을 제공하는 어플리케이션을 통해 상대방과 영상 통화를 수행할 때, 상대방으로부터의 영상에 의해 느낄 수 있는 성적 수치심 또는 불쾌함을 피할 수 있다.
복수의 단말기(100~300)는 영상 통화 세션을 제공하는 어플리케이션을 통해 사용자 간의 건전한 영상 통화를 유도할 수 있다.
이상에서 설명된 실시예는 컴퓨터에 의해 실행되는 프로그램 모듈과 같은 컴퓨터에 의해 실행가능한 명령어를 포함하는 기록 매체의 형태로도 구현될 수 있다. 컴퓨터 판독 가능 매체는 컴퓨터에 의해 액세스될 수 있는 임의의 가용 매체일 수 있고, 휘발성 및 비휘발성 매체, 분리형 및 비분리형 매체를 모두 포함할 수 있다.
또한, 컴퓨터 판독 가능 매체는 컴퓨터 저장 매체 또는 통신 매체를 포함할 수 있다. 컴퓨터 저장 매체는 컴퓨터 판독 가능 명령어, 데이터 구조, 프로그램 모듈 또는 기타 데이터와 같은 정보의 저장을 위한 임의의 방법 또는 기술로 구현된 휘발성 및 비휘발성, 분리형 및 비분리형 매체를 모두 포함할 수 있다. 통신 매체는 전형적으로 컴퓨터 판독 가능 명령어, 데이터 구조, 프로그램 모듈, 또는 반송파와 같은 변조된 데이터 신호의 기타 데이터, 또는 기타 출력 메커니즘을 포함하며, 임의의 정보 전달 매체를 포함할 수 있다.
이상에서 첨부된 도면을 참조하여 본 발명의 실시예들을 설명하였지만, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자는 본 발명이 그 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 실시될 수 있다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며 한정적이 아닌 것으로 이해해야만 한다.

Claims (17)

  1. 단말기와 상대방 단말기 사이의 영상 통화 세션을 수립하는 단계;
    상기 단말기로부터 촬영되는, 복수의 프레임들을 포함하는 제1 영상을 획득하는 단계;
    소정 영상 내의 프레임 내에 부적절한 요소로 미리 설정된 적어도 하나의 오브젝트가 포함되어 있는지를 판단하는 검열 알고리즘에 기초하여, 상기 제1 영상을 검열하는 단계; 및
    상기 제1 영상을 검열한 결과, 상기 복수의 프레임들 중 적어도 하나의 프레임에 상기 적어도 하나의 오브젝트가 포함된 것으로 판단되면, 상기 상대방 단말기로부터 수신되는 제2 영상을 대신하여 상기 제1 영상을 표시하는 단계를 포함하는 단말기의 동작 방법.
  2. 제 1 항에 있어서,
    상기 검열 알고리즘을 준비하는 단계는,
    복수의 프레임들 및 상기 복수의 프레임 각각에 상기 부적절한 요소로 미리 설정된 상기 적어도 하나의 오브젝트가 포함된 프레임을 검출하는 알고리즘이 학습된, 상기 검열 알고리즘을 준비하는 단계를 포함하는, 단말기의 동작 방법.
  3. 제 2 항에 있어서,
    상기 검열 알고리즘을 준비하는 단계는,
    상기 적어도 하나의 오브젝트가 포함된 부적절한 프레임과 상기 적어도 하나의 오브젝트가 포함되지 않은 정상적인 프레임을 판단하는 정보에 기초하여, 상기 복수의 프레임들을 학습하는 단계; 및
    상기 복수의 프레임들을 학습한 결과에 기초하여, 상기 검열 알고리즘을 학습하는 단계를 포함하는, 단말기의 동작 방법.
  4. 제 1 항에 있어서,
    상기 제1 영상을 검열한 결과, 상기 복수의 프레임들에 상기 적어도 하나의 오브젝트가 포함되지 않은 것으로 판단되면, 상기 제1 영상을 상기 상대방 단말기로 송신하는 단계를 더 포함하는, 단말기의 동작 방법.
  5. 제 1 항에 있어서,
    상기 제1 영상을 검열한 결과, 상기 복수의 프레임들 중 적어도 하나의 프레임에 상기 적어도 하나의 오브젝트가 포함된 것으로 판단되면,
    상기 단말기에서 획득된 소리에 대응하는 신호를 상기 상대방 단말기로 송신하는 동작을 중단하는 단계;
    상기 적어도 하나의 프레임이 상기 상대방 단말기로 송신되지 않도록 제어하는 단계; 및
    상기 적어도 하나의 프레임 내에서 상기 적어도 하나의 오브젝트가 표시되지 않도록 상기 적어도 하나의 오브젝트가 표시되는 대상 영역을 영상 처리를 수행하고, 상기 대상 영역이 영상 처리된 적어도 하나의 프레임을 상기 상대방 단말기로 송신하는 단계 중 적어도 하나의 단계를 더 포함하는, 단말기의 동작 방법.
  6. 제 1 항에 있어서,
    상기 제2 영상을 대신하여 상기 제1 영상을 표시하는 단계는,
    상기 영상 통화 세션의 수립에 따라 상기 상대방 단말기로부터 수신되는 상대방의 영상이 표시될 영역에 상기 제1 영상을 표시하는 단계; 및
    상기 적어도 하나의 프레임이 상기 상대방 단말기로 송신되지 않도록 제어하는 단계를 포함하는, 단말기의 동작 방법.
  7. 제 1 항에 있어서,
    상기 검열 알고리즘에 기초하여, 상기 제1 영상을 검열하는 단계는,
    상기 영상 통화 세션에 따라, 상기 단말기에서 획득된 상기 제1 영상을 상기 상대방 단말기로 송신하기 전에, 상기 검열 알고리즘에 기초하여, 상기 복수의 프레임들을 검열하는 단계를 포함하는, 단말기의 동작 방법.
  8. 제1항 내지 제7항 중 어느 한 항에 따른 방법을 수행하기 위한 프로그램이 기록된 컴퓨터 판독 가능한 기록매체.
  9. 단말기와 상대방 단말기 사이에 영상 통화 세션을 준비하는 단계;
    상기 단말기를 통해 획득되는 제1 영상을 준비하는 단계;
    상기 제1 영상을 검열하기 위한 검열 알고리즘을 준비하는 단계; 및
    상기 검열 알고리즘을 이용하여 상기 제1 영상에 부적절한 요소가 포함되어 있는지 판단하는 단계; 및
    상기 판단 결과에 기초하여 상기 상대방 단말기와의 영상 통화 세션의 수립 여부를 결정하는 단계를 포함하는 단말기의 동작 방법.
  10. 제 9 항에 있어서,
    상기 부적절한 요소가 포함되어 있는지 판단하는 단계에서는, 상기 제1 영상에 포함된 복수의 프레임 중 무작위로 선택된 프레임에 상기 부적절한 요소가 포함되어 있는지 판단하는 단말기의 동작 방법.
  11. 제 9 항에 있어서,
    상기 부적절한 요소가 포함되어 있는지 판단하는 단계에서 상기 제1 영상에 포함된 복수의 프레임 중 적어도 하나의 프레임에 부적절한 요소가 포함된 것으로 판단되면,
    상기 영상 통화 세션의 수립 여부를 결정하는 단계에서는,
    상기 영상 통화 세션을 수립하지 않도록 결정하는 단말기의 동작 방법.
  12. 제 9 항에 있어서,
    상기 부적절한 요소가 포함되어 있는지 판단하는 단계에서 상기 제1 영상에 부적절한 요소가 포함되지 않은 것으로 판단되면,
    상기 영상 통화 세션의 수립 여부를 결정하는 단계에서는,
    상기 영상 통화 세션을 수립하도록 결정하는 단말기의 동작 방법.
  13. 제 12 항에 있어서,
    상기 단말기로부터 상기 영상 통화 세션의 수립 이후에 촬영되는, 복수의 프레임을 포함하는 제2 영상을 상기 상대방 단말기에 전송하는 단계;
    상기 상대방 단말기로부터 상기 상대방 단말기에 의해 촬영되는 제3 영상을 수신하는 단계;
    상기 검열 알고리즘을 이용하여 상기 제2 영상에 부적절한 요소가 포함되어 있는지 판단하는 단계; 및
    상기 판단 결과에 기초하여 상기 제2 영상의 상기 상대방 단말기로의 전송 여부를 결정하는 단계를 더 포함하는 단말기의 동작 방법.
  14. 제 13 항에 있어서,
    상기 검열 알고리즘을 이용하여 상기 제2 영상에 부적절한 요소가 포함되어 있는지 판단하는 단계에서 상기 제2 영상에 상기 부적절한 요소가 포함되지 않은 것으로 판단되면,
    상기 제2 영상의 상기 상대방 단말기로의 전송 여부를 결정하는 단계에서는,
    상기 상대방 단말기와의 상기 영상 통화 세션을 유지하고, 상기 제2 영상의 상기 상대방 단말기로의 전송을 유지하도록 결정하는 단말기의 동작 방법.
  15. 제 13 항에 있어서,
    상기 검열 알고리즘을 이용하여 상기 제2 영상에 부적절한 요소가 포함되어 있는지 판단하는 단계에서 상기 제2 영상에 포함된 복수의 프레임 중 적어도 하나에 부적절한 요소가 포함된 것으로 판단되면,
    상기 제2 영상의 상기 상대방 단말기로의 전송 여부를 결정하는 단계에서는,
    상기 부적절한 요소를 검출한 시점 이후로 상기 단말기에서 촬영되는 상기 제2 영상의 전송을 제어하고, 상기 부적절한 요소를 검출한 시점 이후로 상기 상대방 단말기로부터 수신되는 상기 제2 영상 대신, 상기 단말기에서 촬영되는 상기 제2 영상을 표시하도록 제어하는 단말기의 동작 방법.
  16. 외부 장치와 통신을 수행하는 통신 인터페이스;
    디스플레이를 포함하는 입출력 인터페이스;
    프로세서; 및
    상기 프로세서에 의해 실행 가능한 명령어들을 저장하는 메모리를 포함하고,
    상기 프로세서는, 상기 명령어들을 실행함으로써,
    단말기와 상대방 단말기 사이의 영상 통화 세션을 수립하고,
    상기 단말기로부터 촬영되는, 복수의 프레임들을 포함하는 제1 영상을 획득하고,
    소정 영상 내의 프레임 내에 부적절한 요소로 미리 설정된 적어도 하나의 오브젝트가 포함되어 있는지를 판단하는 검열 알고리즘에 기초하여, 상기 제1 영상을 검열하고,
    상기 제1 영상을 검열한 결과, 상기 복수의 프레임들 중 적어도 하나의 프레임에 상기 적어도 하나의 오브젝트가 포함된 것으로 판단되면, 상기 상대방 단말기로부터 수신되는 제2 영상을 대신하여 상기 제1 영상을 상기 디스플레이를 통해 표시하는, 단말기.
  17. 외부 장치와 통신을 수행하는 통신 인터페이스;
    디스플레이를 포함하는 입출력 인터페이스;
    프로세서; 및
    상기 프로세서에 의해 실행 가능한 명령어들을 저장하는 메모리를 포함하고,
    상기 프로세서는, 상기 명령어들을 실행함으로써,
    단말기와 상대방 단말기 사이에 영상 통화 세션을 준비하고,
    상기 단말기를 통해 획득되는 제1 영상을 준비하고,
    상기 제1 영상을 검열하기 위한 검열 알고리즘을 준비하고,
    상기 검열 알고리즘을 이용하여 상기 제1 영상에 부적절한 요소가 포함되어 있는지 판단하고,
    상기 판단 결과에 기초하여 상기 상대방 단말기와의 영상 통화 세션의 수립 여부를 결정하는, 단말기.
KR1020190121524A 2019-10-01 2019-10-01 단말기 및 그것의 동작 방법 Active KR102311603B1 (ko)

Priority Applications (4)

Application Number Priority Date Filing Date Title
KR1020190121524A KR102311603B1 (ko) 2019-10-01 2019-10-01 단말기 및 그것의 동작 방법
US17/036,915 US11184582B2 (en) 2019-10-01 2020-09-29 Terminal and operating method thereof
JP2020165934A JP7125688B2 (ja) 2019-10-01 2020-09-30 端末機及びその動作方法
EP20199235.1A EP3800879A1 (en) 2019-10-01 2020-09-30 Terminal and operating method thereof

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020190121524A KR102311603B1 (ko) 2019-10-01 2019-10-01 단말기 및 그것의 동작 방법

Publications (2)

Publication Number Publication Date
KR20210039114A KR20210039114A (ko) 2021-04-09
KR102311603B1 true KR102311603B1 (ko) 2021-10-13

Family

ID=72709084

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020190121524A Active KR102311603B1 (ko) 2019-10-01 2019-10-01 단말기 및 그것의 동작 방법

Country Status (4)

Country Link
US (1) US11184582B2 (ko)
EP (1) EP3800879A1 (ko)
JP (1) JP7125688B2 (ko)
KR (1) KR102311603B1 (ko)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11553157B2 (en) 2016-10-10 2023-01-10 Hyperconnect Inc. Device and method of displaying images
KR101932844B1 (ko) 2017-04-17 2018-12-27 주식회사 하이퍼커넥트 영상 통화 장치, 영상 통화 방법 및 영상 통화 중개 방법
KR102282963B1 (ko) 2019-05-10 2021-07-29 주식회사 하이퍼커넥트 단말기, 서버 및 그것의 동작 방법
KR102311603B1 (ko) 2019-10-01 2021-10-13 주식회사 하이퍼커넥트 단말기 및 그것의 동작 방법
KR102287704B1 (ko) 2020-01-31 2021-08-10 주식회사 하이퍼커넥트 단말기, 그것의 동작 방법 및 컴퓨터 판독 가능한 기록매체
KR102293422B1 (ko) 2020-01-31 2021-08-26 주식회사 하이퍼커넥트 단말기 및 그것의 동작 방법
KR20210115442A (ko) 2020-03-13 2021-09-27 주식회사 하이퍼커넥트 신고 평가 장치 및 그것의 동작 방법
TWI757940B (zh) * 2020-10-29 2022-03-11 宏碁股份有限公司 視訊會議系統及其排除打擾的方法
US11838684B2 (en) * 2021-01-26 2023-12-05 Dell Products, Lp System and method for operating an intelligent videoframe privacy monitoring management system for videoconferencing applications
US11622147B2 (en) * 2021-07-22 2023-04-04 Popio Mobile Video Cloud, Llc Blurring digital video streams upon initiating digital video communications
US20230026981A1 (en) * 2021-07-22 2023-01-26 Popio Ip Holdings, Llc Obscuring digital video streams via a panic button during digital video communications
WO2023052187A1 (en) * 2021-10-01 2023-04-06 Telefonaktiebolaget Lm Ericsson (Publ) Methods and apparatuses for teleconferencing systems

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101989842B1 (ko) * 2017-12-07 2019-06-17 주식회사 하이퍼커넥트 단말기 및 그것의 영상 처리 방법

Family Cites Families (87)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09200714A (ja) 1996-01-17 1997-07-31 Casio Comput Co Ltd テレビ電話付き画像処理装置
JP3642716B2 (ja) 2000-04-19 2005-04-27 三菱電機株式会社 テレビ電話装置及び通話方法
KR20010000426A (ko) 2000-09-28 2001-01-05 김용환 지능형 영상 인터페이스 방법
JP3838506B2 (ja) 2001-11-13 2006-10-25 松下電器産業株式会社 画像を用いる通信方法及びその装置
EP1311124A1 (en) 2001-11-13 2003-05-14 Matsushita Electric Industrial Co., Ltd. Selective protection method for images transmission
US20030126267A1 (en) 2001-12-27 2003-07-03 Koninklijke Philips Electronics N.V. Method and apparatus for preventing access to inappropriate content over a network based on audio or visual content
US7360234B2 (en) 2002-07-02 2008-04-15 Caption Tv, Inc. System, method, and computer program product for selective filtering of objectionable content from a program
US8245252B2 (en) * 2002-09-10 2012-08-14 Caption Tv, Inc. System, method, and computer program product for selective replacement of objectionable program content with less-objectionable content
KR100927271B1 (ko) 2003-01-13 2009-11-18 엘지전자 주식회사 디스플레이 장치의 시청 제한 방법
US7321384B1 (en) 2003-06-03 2008-01-22 Cisco Technology, Inc. Method and apparatus for using far end camera control (FECC) messages to implement participant and layout selection in a multipoint videoconference
US8254674B2 (en) 2004-10-28 2012-08-28 DigitalOptics Corporation Europe Limited Analyzing partial face regions for red-eye detection in acquired digital images
US8977063B2 (en) 2005-03-09 2015-03-10 Qualcomm Incorporated Region-of-interest extraction for video telephony
JP2006270380A (ja) 2005-03-23 2006-10-05 Victor Co Of Japan Ltd 画像情報送信装置
US7564476B1 (en) 2005-05-13 2009-07-21 Avaya Inc. Prevent video calls based on appearance
US20080012935A1 (en) * 2005-11-22 2008-01-17 Gateway Inc. Inappropriate content detection and distribution prevention for wireless cameras/camcorders with e-mail capabilities and camera phones
US20070195158A1 (en) * 2006-02-23 2007-08-23 Kies Jonathan K Apparatus and methods for managing video calls on a wireless device
US7911513B2 (en) 2007-04-20 2011-03-22 General Instrument Corporation Simulating short depth of field to maximize privacy in videotelephony
US8253770B2 (en) 2007-05-31 2012-08-28 Eastman Kodak Company Residential video communication system
KR100844334B1 (ko) 2007-06-07 2008-07-08 엘지전자 주식회사 이동통신 단말기의 디스플레이 제어장치 및 방법
KR100882476B1 (ko) 2007-06-14 2009-02-06 유성준 음란성 이미지의 판별 방법과 그 장치
US8165416B2 (en) 2007-06-29 2012-04-24 Microsoft Corporation Automatic gain and exposure control using region of interest detection
US8223187B2 (en) 2008-07-17 2012-07-17 Cisco Technology, Inc. Non-bandwidth intensive method for providing multiple levels of censoring in an A/V stream
KR101450580B1 (ko) 2008-11-19 2014-10-14 삼성전자주식회사 이미지 합성 방법 및 장치
KR101639392B1 (ko) 2009-08-20 2016-07-22 엘지전자 주식회사 이동 단말기
KR101189053B1 (ko) 2009-09-05 2012-10-10 에스케이플래닛 주식회사 아바타 기반 화상 통화 방법 및 시스템, 이를 지원하는 단말기
CN101668157B (zh) 2009-09-24 2011-09-21 中兴通讯股份有限公司 用于视频通话中隐私保护的方法、应用服务器及系统
KR101384317B1 (ko) 2009-12-21 2014-04-14 한국전자통신연구원 멀티모달 및 멀티스케일 특징 기반 유해 영상 차단 장치 및 방법
US8626879B2 (en) 2009-12-22 2014-01-07 Sling Media, Inc. Systems and methods for establishing network connections using local mediation services
JP5442547B2 (ja) 2010-07-08 2014-03-12 株式会社Ｎｔｔドコモ コンテンツ推薦装置及び方法
JP2012054897A (ja) 2010-09-03 2012-03-15 Sharp Corp 会議システム、情報処理装置、及び情報処理方法
US9313450B2 (en) 2010-09-10 2016-04-12 Nec Corporation Mobile terminal, remote operation system, data transmission control method by mobile terminal, and non-transitory computer readable medium
US8526728B2 (en) 2010-12-21 2013-09-03 Microsoft Corporation Establishing clusters of user preferences for image enhancement
EP2693745A4 (en) 2011-03-30 2015-04-01 Fujitsu Ltd INFORMATION PROCESSING DEVICE WITH IMAGE CONTROL FUNCTION
EP2515526A3 (en) 2011-04-08 2014-12-24 FotoNation Limited Display device with image capture and analysis module
KR101237469B1 (ko) 2011-05-12 2013-02-26 재단법인 서울호서직업전문학교 음란 이미지 자동 인식 방법, 장치 및 그 방법을 실행하기 위한 프로그램 기록매체
US8970653B2 (en) 2011-06-16 2015-03-03 Vtel Products Corporation, Inc. Video conference control system and method
NO334029B1 (no) * 2011-09-30 2013-11-18 Cisco Tech Inc System og fremgangsmåte for etablering av videokonferansesesjon med justerbart filter for markering av tilstedeværelsesnivå i endepunkter
KR101394597B1 (ko) 2012-05-09 2014-05-27 김명훈 얼굴검출 알고리즘을 이용한 영상보안장치와 영상보안시스템 및 얼굴검출 알고리즘을 이용한 영상보안방법
KR101936802B1 (ko) 2012-07-20 2019-01-09 한국전자통신연구원 얼굴인식 기반의 개인정보보호 장치 및 방법
US9288387B1 (en) 2012-09-11 2016-03-15 Amazon Technologies, Inc. Content display controls based on environmental factors
WO2014090262A1 (en) 2012-12-11 2014-06-19 Unify Gmbh & Co. Kg Method of processing video data, device, computer program product, and data construct
US20150070516A1 (en) 2012-12-14 2015-03-12 Biscotti Inc. Automatic Content Filtering
US9154709B2 (en) 2012-12-21 2015-10-06 Google Inc. Recommending transformations for photography
KR101800617B1 (ko) 2013-01-02 2017-12-20 삼성전자주식회사 디스플레이 장치 및 이의 화상 통화 방법
US9013536B2 (en) 2013-03-13 2015-04-21 Futurewei Technologies, Inc. Augmented video calls on mobile devices
EP2782326B1 (en) 2013-03-20 2022-04-27 Samsung Electronics Co., Ltd. Method and apparatus for processing an image based on an image property and ambient environment information
US9230328B1 (en) 2013-06-28 2016-01-05 Google Inc. Providing image parameters
CN103413270A (zh) 2013-08-15 2013-11-27 北京小米科技有限责任公司 一种图像的处理方法、装置和终端设备
US9591261B2 (en) 2013-09-24 2017-03-07 Hitachi Maxell, Ltd. Video telephone device and video telephone processing method
EP2887625A1 (en) 2013-12-19 2015-06-24 Alcatel Lucent Method for real-time reporting and prevention of call abuse
US9460340B2 (en) 2014-01-31 2016-10-04 Google Inc. Self-initiated change of appearance for subjects in video and images
CN104836977B (zh) 2014-02-10 2018-04-24 阿里巴巴集团控股有限公司 即时通讯过程中的视频通讯方法及系统
US9646360B2 (en) 2014-04-25 2017-05-09 Sony Corporation Processing digital photographs in response to external applications
US9633462B2 (en) 2014-05-09 2017-04-25 Google Inc. Providing pre-edits for photos
US20150371677A1 (en) 2014-06-19 2015-12-24 BrightSky Labs, Inc. User interface for video editing system
US9462112B2 (en) * 2014-06-19 2016-10-04 Microsoft Technology Licensing, Llc Use of a digital assistant in communications
US9225897B1 (en) 2014-07-07 2015-12-29 Snapchat, Inc. Apparatus and method for supplying content aware photo filters
US9858470B2 (en) 2014-07-18 2018-01-02 Htc Corporation Method for performing a face tracking function and an electric device having the same
US9646227B2 (en) 2014-07-29 2017-05-09 Microsoft Technology Licensing, Llc Computerized machine learning of interesting video sections
US9282287B1 (en) 2014-09-09 2016-03-08 Google Inc. Real-time video transformations in video conferences
US9516220B2 (en) 2014-10-02 2016-12-06 Intel Corporation Interactive video conferencing
KR20160051390A (ko) 2014-11-03 2016-05-11 삼성전자주식회사 전자장치 및 전자장치의 필터 제공 방법
US9754355B2 (en) 2015-01-09 2017-09-05 Snap Inc. Object recognition based photo filters
US9503456B1 (en) 2015-01-22 2016-11-22 Google Inc. Video chat abuse detection based on external context
US9569697B1 (en) 2015-02-19 2017-02-14 Google Inc. Object oriented image editing
US9576190B2 (en) 2015-03-18 2017-02-21 Snap Inc. Emotion recognition in video conferencing
US10198667B2 (en) * 2015-09-02 2019-02-05 Pocketguardian, Llc System and method of detecting offensive content sent or received on a portable electronic device
KR101751620B1 (ko) * 2015-12-15 2017-07-11 라인 가부시키가이샤 시각적 또는 청각적 효과의 양방향 전달을 이용한 영상 통화 방법 및 시스템
KR20170082349A (ko) 2016-01-06 2017-07-14 삼성전자주식회사 디스플레이 장치 및 그 제어 방법
US9848167B1 (en) 2016-06-21 2017-12-19 Amazon Technologies, Inc. Low bandwidth video
KR20180000255A (ko) 2016-06-22 2018-01-02 엘지전자 주식회사 이동 단말기 및 그 이동 단말기의 제어 방법
JP2017228224A (ja) 2016-06-24 2017-12-28 キヤノン株式会社 情報処理装置、情報処理方法及びプログラム
KR20180039402A (ko) 2016-10-10 2018-04-18 주식회사 하이퍼커넥트 영상 표시 장치 및 영상 표시 방법
US11553157B2 (en) 2016-10-10 2023-01-10 Hyperconnect Inc. Device and method of displaying images
US10754965B2 (en) 2017-03-08 2020-08-25 Blackberry Limited Data messaging with privacy tokens
KR101932844B1 (ko) * 2017-04-17 2018-12-27 주식회사 하이퍼커넥트 영상 통화 장치, 영상 통화 방법 및 영상 통화 중개 방법
KR102283972B1 (ko) * 2017-07-14 2021-08-02 주식회사 하이퍼커넥트 통신 장치, 서버 및 동작 방법
KR102312861B1 (ko) 2017-08-09 2021-10-15 주식회사 하이퍼커넥트 통신 장치, 서버 및 통신 방법
JP2019047357A (ja) 2017-09-04 2019-03-22 キヤノン株式会社 撮像装置付き表示装置
KR102056806B1 (ko) 2017-12-15 2019-12-18 주식회사 하이퍼커넥트 영상 통화 서비스를 제공하는 단말과 서버
KR102044242B1 (ko) 2017-12-27 2019-11-13 주식회사 하이퍼커넥트 영상 통화 서비스를 제공하는 단말 및 서버
KR102079091B1 (ko) 2018-01-31 2020-02-19 주식회사 하이퍼커넥트 단말기 및 그것의 이미지 처리 방법
KR20190098518A (ko) 2018-02-14 2019-08-22 주식회사 하이퍼커넥트 서버 및 그것의 동작 방법
KR102266888B1 (ko) 2018-12-31 2021-06-21 주식회사 하이퍼커넥트 영상 통화 서비스를 제공하는 단말기 및 서버
US10810726B2 (en) * 2019-01-30 2020-10-20 Walmart Apollo, Llc Systems and methods for detecting content in images using neural network architectures
KR102282963B1 (ko) 2019-05-10 2021-07-29 주식회사 하이퍼커넥트 단말기, 서버 및 그것의 동작 방법
KR102311603B1 (ko) 2019-10-01 2021-10-13 주식회사 하이퍼커넥트 단말기 및 그것의 동작 방법

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101989842B1 (ko) * 2017-12-07 2019-06-17 주식회사 하이퍼커넥트 단말기 및 그것의 영상 처리 방법

Also Published As

Publication number Publication date
KR20210039114A (ko) 2021-04-09
JP7125688B2 (ja) 2022-08-25
US11184582B2 (en) 2021-11-23
EP3800879A1 (en) 2021-04-07
JP2021057902A (ja) 2021-04-08
US20210099672A1 (en) 2021-04-01

Similar Documents

Publication Publication Date Title
KR102311603B1 (ko) 단말기 및 그것의 동작 방법
US10701315B2 (en) Video communication device and video communication method
US11394922B2 (en) Terminal and operating method thereof
US11323659B2 (en) Video communication device, video communication method, and video communication mediating method
US11102450B2 (en) Device and method of displaying images
KR102283972B1 (ko) 통신 장치, 서버 및 동작 방법
EP4096222A1 (en) Live broadcast assistance method and electronic device
US11553157B2 (en) Device and method of displaying images
KR102282963B1 (ko) 단말기, 서버 및 그것의 동작 방법
US11606397B2 (en) Server and operating method thereof
KR20190102507A (ko) 디스플레이 장치 및 그 동작 방법
US20240397156A1 (en) Recommending relevant content augmentations based on context
KR102051828B1 (ko) 영상 통화 방법 및 영상 통화 중개 장치
US20240107092A1 (en) Video playing method and apparatus
KR20200051540A (ko) 서버 및 그것의 동작 방법
KR102315211B1 (ko) 단말기 및 그것의 동작 방법
KR102289194B1 (ko) 서버 및 그것의 동작 방법
US20250124924A1 (en) Inner speech production performance measurement and quantification
KR101967651B1 (ko) 영상 표시 방법, 장치 및 컴퓨터 판독 가능한 기록매체
US20230008492A1 (en) Aggregation of unconscious and conscious behaviors for recommendations and authentication

Legal Events

Date Code Title Description
PA0109 Patent application

St.27 status event code: A-0-1-A10-A12-nap-PA0109

PA0201 Request for examination

St.27 status event code: A-1-2-D10-D11-exm-PA0201

D13-X000 Search requested

St.27 status event code: A-1-2-D10-D13-srh-X000

D14-X000 Search report completed

St.27 status event code: A-1-2-D10-D14-srh-X000

PE0902 Notice of grounds for rejection

St.27 status event code: A-1-2-D10-D21-exm-PE0902

PN2301 Change of applicant

St.27 status event code: A-3-3-R10-R13-asn-PN2301

St.27 status event code: A-3-3-R10-R11-asn-PN2301

R17-X000 Change to representative recorded

St.27 status event code: A-3-3-R10-R17-oth-X000

T11-X000 Administrative time limit extension requested

St.27 status event code: U-3-3-T10-T11-oth-X000

T11-X000 Administrative time limit extension requested

St.27 status event code: U-3-3-T10-T11-oth-X000

P22-X000 Classification modified

St.27 status event code: A-2-2-P10-P22-nap-X000

T11-X000 Administrative time limit extension requested

St.27 status event code: U-3-3-T10-T11-oth-X000

T11-X000 Administrative time limit extension requested

St.27 status event code: U-3-3-T10-T11-oth-X000

P11-X000 Amendment of application requested

St.27 status event code: A-2-2-P10-P11-nap-X000

P13-X000 Application amended

St.27 status event code: A-2-2-P10-P13-nap-X000

PG1501 Laying open of application

St.27 status event code: A-1-1-Q10-Q12-nap-PG1501

E701 Decision to grant or registration of patent right
PE0701 Decision of registration

St.27 status event code: A-1-2-D10-D22-exm-PE0701

GRNT Written decision to grant
PR0701 Registration of establishment

St.27 status event code: A-2-4-F10-F11-exm-PR0701

PR1002 Payment of registration fee

St.27 status event code: A-2-2-U10-U11-oth-PR1002

Fee payment year number: 1

PG1601 Publication of registration

St.27 status event code: A-4-4-Q10-Q13-nap-PG1601

R18-X000 Changes to party contact information recorded

St.27 status event code: A-5-5-R10-R18-oth-X000

R18-X000 Changes to party contact information recorded

St.27 status event code: A-5-5-R10-R18-oth-X000

PR1001 Payment of annual fee

St.27 status event code: A-4-4-U10-U11-oth-PR1001

Fee payment year number: 4

P22-X000 Classification modified

St.27 status event code: A-4-4-P10-P22-nap-X000

PR1001 Payment of annual fee

St.27 status event code: A-4-4-U10-U11-oth-PR1001

Fee payment year number: 5

U11 Full renewal or maintenance fee paid

Free format text: ST27 STATUS EVENT CODE: A-4-4-U10-U11-OTH-PR1001 (AS PROVIDED BY THE NATIONAL OFFICE)

Year of fee payment: 5