DL in NLP 2020. Spring. Quiz 2

JavaScript isn't enabled in your browser, so this file can't be opened. Enable and reload.

Email *

Github *

Какие исходные данные для алгоритма GloVe?

Сырой текст

Текст, разбитый на предложения

Матрица совместной встречаемости

SVD-разложение матрицы совместной встречаемости

Логарифм матрицы совместной встречаемости

Отметьте правильные свойства алгоритма GloVe

Он решает задачу квадратичной оптимизации

Функция f в алгоритме позволяет снизить влияние слишком частых слов.

Алгоритм GloVe лучше работает на малых объёмах данных

Влияние слов любой частотности на алгоритм Glove одинаково

Алгоритм fasttext строит векторные представления для ...

слова и входящих в него символьных энграмм

слова и входящих в него морфем

слова и входящих в него букв

только символьных энграмм слова

Алгоритм fasttext лучше применим для

Семантических аналогий

Синтаксических аналогий

Слов, не входящих в словарь

Языков с простой морфологией

Языков со сложной морфологией

What is the primary function of softmax in the case of logistic regression? *

Scores normalization

Batch normalization

A trick for optimisation simplicity

Suppose you need to train a fully-connected neural network with 4 neurons at first hidden layer and 6 neurons at second hidden layer. This network takes 3-dimensional vector as input and has one output neuron with sigmoid function. Loss function is negative log likelihood. How many parameters should be updated through 1 step of gradient descent? (Don't forget the biases!) *

Other:

Finding the appropriate weight and bias of each neuron is the most important step in neural networks. If you can somehow get the correct value of weight and bias for each neuron, you can approximate any function. What would be the best way to approach this among listed options? *

Assign random values and hope that they are correct

Search every possible combination of weights and biases till you get the best value

Iteratively check that after assigning a value how far you are from the best values, and slightly change the assigned values values to make them better

Suppose you have inputs as x, y, and z with values -2, 5, and -4 respectively. You have a neuron ‘q’ and neuron ‘f’ with functions: q = x + y and f = q * z. What is the gradient of F with respect to x, y, and z? *

(-3,4,4)

(4,4,3)

(-4,-4,3)

(3,-4,-4)

Your questions about the material

Submit

Clear form

Never submit passwords through Google Forms.

This content is neither created nor endorsed by Google. Report Abuse - Terms of Service - Privacy Policy

Forms