심사관과 심층적인 인터뷰: Batch Normalization 특허 관련 진행 상황 [1]

지난번 칼럼에서 구글의 Batch Normalization Layers 특허의 1차 거절이유가 나왔다는 사실을 소개드렸습니다.

 

작년 11월 14일에 1차 거절이유가 나온 후, 대응을 준비하던 구글 측에서 1월말에 해당 거절이유에 대한 대응을 시작했습니다. 1월 30일에 심사관 인터뷰를 진행한 기록이 업로드되었습니다.

 

1. 심사관 인터뷰란 무엇인가

 

지난번 칼럼에서 특허청의 1차 거절이유 통지에 대해서, 구글이 자신의 의견을 개진할 수 있는 기회를 가질 수 있다고 말씀드렸습니다. 일반적으로 구글은 자신의 의견을 서면을 통해 특허청에 제출해야 합니다. 보통 이 경우는 기록이 남게됩니다. 제3자가 구글이 특허를 등록받기 위해 어떤 점을 자기 기술의 핵심적인 장점으로 주장했는지, 어떠한 부분에서 심사관의 의견을 수용하였는지 등이 기록에 남게됩니다.

 

이러한 기록은 추후 소송시에 특허권자에게 불리하게 작용할 수 있는 여지가 있습니다. 심사 과정에서 심사관에게 주장한 내용과 특허 침해 소송에서 주장하는 내용이 논리적으로 상반되는 경우가 존재할 수 있습니다. 그래서 가급적이면 기록을 남기지 않는게 좋지요.

 

그래서 미국 특허 출원인들은 심사관 인터뷰를 활용하는 빈도가 높습니다. 자신의 주장 내용을 최대한 간략하게 구두로 처리하고, 실제 제출하는 서면 의견서에서는 “인터뷰에서 얘기한 바대로 주장하겠다”라는 식으로 최대한 간략하게 기재하는 것입니다. 이러면 서면으로 모든 주장을 풀어나가는 것 보다 훨씬 적은 기록이 남게됩니다.

 

더불어, 특허청 심사관도 사람인 이상 서면으로만 주장하고 하는 것보단 아무래도 구두로 얘기하면서 서로 의견을 교환하는게 빠르고 오해의 소지가 없을 수도 있지요. 국내에서는 일반적으로 추가적으로 비용이 들어서 활용을 기피하는 경우가 많지만, 미국 특허출원인들은 인터뷰를 참으로 유용하게 활용합니다.

 

이러한 인터뷰가 진행된 이후에는 인터뷰의 내용을 간략하게 요약한 보고서를 기록으로 남기게 됩니다. 구두로 나눈 대화를 일일이 기록하는 것은 아니지만 요약본은 기록으로 남기게 되죠. 1월 30일에 기록된 문서는 이 인터뷰의 요약서입니다.

 

인터뷰에서는 1차 거절이유에 포함된 모든 거절이유에 대해 의견을 교환한 내용을 포함하고 있습니다.

 

2. 발명의 신규성 내지 진보성 위반 (특히 US5479576 특허와 관련하여)

 

심사관과 구글측에서 특별히 신규성 내지 진보성 위반과 관련해서 이번 인터뷰에서 합의를 이끌어 낸 부분은 없는 것으로 보입니다. 구글 측에서는 미국 특허 US5479576와 자신의 발명이 어떻게 다른지를 충분히 설명 했고, 심사관도 이를 인정하였으나, 심사관의 입장은 이런 차이점이 기존 청구항에 반영되지는 않았기 때문에, 청구항의 수정 없이는 거절 결정을 번복할 수는 없다는 입장입니다.

 

특허 출원과 등록에 이르는 절차는, 특허권의 권리 범위를 어떻게 설정하는 지를 놓고 특허청과 출원인이 줄다리기를 하는 과정입니다. 이 과정에서 특허권의 권리범위를 최종적으로 결정하는 기준은 특허의 청구항입니다.

 

특허의 청구항은 자신의 영역을 표시하기 위한 말뚝과도 같다고 보시면 이해가 쉬울 수도 있습니다. 자신이 어떠한 발명을 하였건 간에, 최종적으로 특허권의 권리범위라는 것은 권리범위의 경계를 결정하기 위한 말뚝이 어디어디 박혀있는지에 따라 확정됩니다. 따라서 특허청의 심사관은 특허권을 줄지 말지를 특허 청구항을 기준으로 결정합니다. 발명의 상세한 설명과 도면들은 권리 확정에 측면에서는 이해를 돕기 위한 부수적인 자료에 불과하죠.

 

따라서, 이번 결정은 심사관이 구글측의 기술 설명을 듣고서, 적어도 미국 특허 US5479576와 구글의 Batch Normalization Layers 특허의 차이점은 수긍했으나, 이러한 차이점이 청구항에 반영되지는 않았다는 점을 확인하는 것입니다.

 

그렇다면 구글은 어떠한 행동을 취해야 할까요? 네, 특허 청구항을 수정해서, 기존의 발명들과 자신의 발명의 차이점이 특허 청구항에도 드러나도록 하여야 합니다.

 

그런데 마지막으로 심사관이 다음과 같은 코멘트를 남겼습니다.

 

"심사관은 청구항 8항 및/또는 9항에 기재된 개념들과 용어들이 청구항 1항에 통합되는 경우, 심사 절차가 빨라질 수 있다고 제안했다" (The examiner suggested that if the concepts and language of Claim 8 and/or 9 were incorporated into at least Claim 1, prosecution could potentially be accelerated)

 

이 말은 무슨 의미일까요, 제가 보기에는 심사관이 청구항 8항과 9항의 내용에 대해서 어느 정도 특허성을 긍정하는 뉘앙스의 언급이라고 보입니다.

 

청구항 8항이나 9항 내용을 포함해서 심사를 신청하면, 신규성이나 진보성 문제로 옥신각신할 시간을 줄이고, 빨리빨리 심사가 진행될 수도 있다는 얘기로 들리네요. BN Layers 특허의 청구항 8항 및 9항을 볼까요?

 

 

청구항 8항

8. The neural network system of claim 7, wherein new neural network inputs processed by the neural network system after the neural network system has been trained are a different type of input than the training examples used to train the neural network system.

 

 

청구항 8항은 간단해 보이지만, 다소 복잡합니다. 청구항 8항 자체가 청구항 7항을 인용하고 있고, 청구항 7항이 청구항 5항을 인용하고 있으며, 청구항 5항은 4항을, 청구항 4항은 2항을, 청구항 2항이 비로소 1항을 인용하고 있기 때문입니다.

 

청구항의 인용관계는 복잡합니다만은, 1차로 트레이닝이 이루어진 후에, 새로운 타입의 입력 데이터가 입력되면, 이전에 미리 계산했던 normalization component들을 다시 사용하겠다는 내용입니다.

 

 

청구항 9항

9. The neural network system of claim 1, wherein the first neural network layer is a convolutional layer, wherein the plurality of components of the first layer output are indexed by feature index and spatial location index, and wherein computing a plurality of normalization statistics for the first layer outputs comprises:  computing, for each combination of feature index and spatial location index, a mean of the components of the first layer outputs having the feature index and spatial location index;  computing, for each feature index, an average of the means for combinations that include the feature index;  computing, for each combination of feature index and spatial location index, a variance of the components of the first layer outputs having the feature index and spatial location index; and  computing, for each feature index, an average of the variances for combinations that include the feature index.

 

 

청구항 9항은 Convolutional layer의 출력을 batch normalization 하기 위한 내용으로 보입니다. CV Layer의 출력을 피처 인덱스와 공간 위치 인덱스로 인덱싱하고, 동일한 피처 인덱스와 공간 인덱스를 가지는 값들의 평균(및 분산)들을 구하고, 이들 중에서 다시 동일한 피처 인덱스를 가지는 값들의 평균(및 분산)을 구하는 방식입니다.

 

제가 보기에는 두 내용 다 선뜻 구글이 여기까지 양보할 것으로 보기에는 어려워 보입니다.

 

아마도 1~2달 이내에 제출될 구글의 의견서 및 보정서에는 해당 내용과 최초 청구항 1항의 중간쯤 되는 내용을 기초로 청구항 수정이 되어 있지 않을까 싶습니다.

 

전체적으로 구글측도 효과적으로 자신의 입장을 잘 전달한 것으로 보입니다. 구글의 BN Layer 관련 특허가 기존의 기술에 비해서 얼마나 진보된 것인지에 대해서는 심사관을 크게 설득 시켰다고 보기는 어렵습니다.

 

다만 제가 보기에 구글이 이번 인터뷰에서 선방했다고 보는 이슈는 발명의 성립성 문제를 비교적 큰 출혈없이 극복할 수 있는 실마리를 얻었다고 보기 때문입니다.

 

발명의 성립성 이슈에 대해서는, 종전에 언급드린 미국 대법원 판례를 비롯한 배경 지식의 이해가 조금 필요합니다.

 

후속되는 칼럼에서 자세히 설명 드리도록 하겠습니다!

 

감사합니다.