WORLD OF WARCRAFT

Тема: Перевод: Игроки – плохая замена профессиональным тестировщикам онлайн-игр  (Прочитано 8611 раз)

0 Пользователей и 1 Гость просматривают эту тему.

MrDjaam

  • Завсегдатай
  • **
  • Сообщений: 108

  • Варкрафт: +
    • Имя: Мистерджем
    • Класс: Охотник
    • Сервер: Гордунни



Тестовые серверы - это ужасная идея, которую постоянно применяют при разработке онлайн-игр. И чем старше я становлюсь, и чем больше я понимаю в этой индустрии, тем больше я считаю их в лучшем случае ненужными, а в худшем - вредными для процесса тестирования.:cut:

Об этом я задумался во время одного из последних интервью по World of Warcraft, в котором было упомянуто, что часть проблем с Торгастом не была обнаружена участниками тестирования. И дело не в этом конкретном утверждении, а в самой философии тестирования и в том, как она могла способствовать возникновению проблемы. На самом деле, часть этой проблемы здесь сводится к тому, что разработчики рассчитывают получить от игроков, тестирующих систему, полезную обратную связь. Но у самих игроков другие приоритеты по сравнению с настоящими тестировщиками.

Вернемся немного назад. Для чего нужно тестирование? Потому что в общих чертах под этот заголовок попадают три вещи, и все они, как правило, объединяются в одну работу. Мы можем рассматривать тестирование как процесс, состоящий из трех основных компонентов:
  • Функциональное тестирование: это типичное тестирование гаек и болтов. Сервер выдерживает нагрузку? Есть ли вопиющие ошибки с нажатием на что-нибудь? Можете ли вы попасть в бесконечные циклы, хорошие или плохие? Системы работают, как задумано? Это процесс обнаружения ошибок и существующих проблем и их исправления.
  • Концептуальное тестирование: весело ли играть? Удовлетворяет ли геймплей? Переходят ли части задания друг в друга и имеют ли все необходимые соединения? Стоят ли награды затраченного времени? Цель здесь - выйти за рамки непосредственных элементов того, что тестируется, и поместить это в более широкий контекст, особенно при обращении к дизайн-документам.
  • Исполнительное тестирование: последовательно ли загружаются различные части контента? Все ли работает правильно и дает ли вам представление о том, как в это играть? Как эти системы взаимодействуют с другими? Это основной путь к тому, чтобы убедиться, что системы и контент понятны и доступны для игроков.
Вы можете увидеть проблему, просто взглянув на эти категории, но позволять мне объяснить. Большинство из этих вещей на самом деле не волнуют игроков. Никого, кто играет на тестовом сервере, не интересует, где этот новый контент размещается в дизайн-документе, независимо от того, интересно ли играть самому или нет.


Фактически, многие из этих вещей противоречат тому, как игроки на тестовых серверах смотрят на всё это. Да, игроки хотят найти ошибки и быть уверенными, что их нет, но они также не всегда знают, является ли что-то ошибкой, или как оно должно работать на самом деле. Игроки могут сказать вам, весело что-то или нет, но они не могут назвать причину, почему что-то не кажется интересным. Черт возьми, большинство людей на тестовых серверах в первую очередь хотят опробовать новый контент, а не тестировать его.

Имейте в виду, здесь я не обвиняю игроков. Если вам не платят за тестирование этого материала, то это по определению хобби, а не работа. И нельзя винить игроков в том, что они относятся к хобби как к развлечению. Но это, естественно, повлияет на качество тестирования, а также на то, насколько хорошо студии общаются с игроками.

Например, предположим, новое обновление для игры добавляет судостроение. Давайте просто повеселимся и заявим, что говорим о Star Wars: The Old Republic. Сейчас там целая система для постройки собственных лодок. Почему? Какая разница. Дело в том, что вы строите лодки.

Игроки начинают возвращаться и объяснять, что строительство лодок - это не весело, занимает слишком много времени и для их использования недостаточно места. Есть несколько вариантов того, что здесь может происходить. Например, механика судостроения недостаточно хорошо объяснена, поэтому игроки не знают, как правильно строить лодки. Возможно, содержимое лодок еще не готов для тестирования, поэтому их использование всё еще ограничено. Может случиться так, что строительство лодки должно быть медленным, потому что вы должны закончить после постройки одной лодки.

Но из-за отсутствия такой информации игроки будут считать строительство лодок неинтересным и бесполезным занятием. И, не понимая, почему игроки находят эту систему неисправной, очень легко вернуться к тому, чтобы просто заверить игроков, что будет весело после получения полной картины. Даже если проблемы вполне реальны и их необходимо исправить.


Честно говоря, есть некоторые вещи, которые лучше всего проверять на массах игроков. Стабильность сервера, например, когда на него заходит множество людей с разной скоростью подключения и местоположением. Открытое тестирование также часто является лучшим способом спрогнозировать, что игроки с разным уровнем оборудования могут нормально запускать игру. Это просто логика.

Дело в дифференциации. Игроки полезны для тестирования этих вещей, когда игра уже прошла большую часть других тестов. Вы почти уверены, что системы работают и стабильны. Игра идет так, как положено. Тестировщики находят веселые вещи. Это то, для чего вы нанимаете их, людей, чья работа состоит в том, чтобы играть в игру и предоставлять полезную обратную связь.

И вот здесь тестовые серверы начинают активно проявлять вредоносность. Поскольку чем больше функций тестировщика передается игрокам, тем более заманчивым будет желание сэкономить на персонале отдела качества, который на самом деле может выполнять важную работу по тестированию игры в целом, попадая в те области, которыми игроки обычно пренебрегают. И всё это, чтобы получить полный и всесторонний взгляд на игру.

Не вкладывать в это деньги, конечно же, приводит к кругу страданий. Обновления выходят с большим количеством ошибок, меньшим качеством доработок и пониманием того, чего хотят игроки. Вина возлагается на людей, которые проводили тестирование, а затем вы снова переходите к следующему обновлению и… Да, вы поняли.

Тестовые серверы - отличная идея. Но она не работает как бесплатный вариант отдела качества и не может его заменить. И чем больше компания пытается заменить надлежащее тестирование усилиями игроков, тем хуже будут дела в целом.

Перевод: MrDjaam
Оригинал: Eliot Lefebvre
massivelyop.com
« Последнее редактирование: 30 Августа, 2021, 13:52:54 by Wishko »

Wishko

  • Модератор
  • Легенда
  • *
  • Сообщений: 54227
Если и вам интересно попереводить какие-нибудь подобные статейки, напишите пишите мне:

JayD

  • Завсегдатай
  • **
  • Сообщений: 916
  • Всем доволен.

  • Варкрафт: +
    • Имя: Imirim
    • Класс: Рыцарь смерти
    • Сервер: Draenor
  • Рейтинг:0 (+1 | -1)
Тестовые сервера ПТР/Альфа/Бета выходят после тестирования профессиональными тестировщиками

Alex83

  • Завсегдатай
  • **
  • Сообщений: 745
  • Рейтинг:0 (+3 | -3)
Тестовые сервера ПТР/Альфа/Бета выходят после тестирования профессиональными тестировщиками
Ну нельзя же быть таким наивным )))

Все чем занимается так называемый "отдел тестирования", это анализирует баг репорты и отзывы от игроков, и сообщает "по адресу" о наиболее критичных.

Если бы отдел тестирования, реально тестировал контент а не валялся на пляже с коктельчиком в руке то очевиднейших багов которые лежат на поверхнасти не было бы, мы бы о них даже не узнали, а так у нас по факту:
"игра не красшится на запуске ? ОТЛИЧНО ! ставим на птр пусть бесплатные рабы тестят, а у нас патитайм ..."

Кожевенник

  • Завсегдатай
  • **
  • Сообщений: 943
  • Рейтинг:2 (+4 | -2)
Автор, ты конечно красиво "пишешь", но что делать, когда те-же самые игроки находят на птр критичные баги, разрабам на это откровенно пофиг? И эта тенденция абсолютно во всех проектах близзов.

Talker1

  • Завсегдатай
  • **
  • Сообщений: 519
  • Рейтинг:2 (+4 | -2)
Интересно, сколько у автора опыт в тестирование и какой?
Т.к. моими глазами статья - размышления дилетанта.
Сам я в тестирование более 10 лет, 4 из которых проторчал в геймдеме (бррр никогда туда опять).

Alsapko

  • Завсегдатай
  • **
  • Сообщений: 396
  • Похоже я слишком стар для этого дерьма.

  • Варкрафт: +
    • Класс: Чернокнижник
    • Сервер: Свежеватель Душ
Почему птр называют бесплатным тестом? Вполне себе платный: вы платите подписку близам чтобы получить возможность делать их работу.
« Последнее редактирование: 30 Августа, 2021, 22:44:41 by Alsapko »
In name of God, in name of God, in name of God we go to Heaven!

swalto

  • Новичок
  • *
  • Сообщений: 31

  • Варкрафт: +
    • Имя: Экзомион
    • Класс: Маг
    • Сервер: РФ
Проблема в том, что на птр/альфу/бету запускают такое огромное количество игроков, что порой задумываешься - они там для проверки нового контента или чтобы поиграть? Поиграть, конечно, заманчиво, но потом те же люди заходят на лайв и начинают сталкиваться с разнообразными проблемами, которые должны были быть замечены и устранены на стадии тестирования. Отсюда и возникают мнения, что игроки "просто играли и нихрена не делали", рождая мемчики типа "Беты фор Азерот". Я согласен больше с тем, что тестировать контент надо профессиональным тестировщикам, потому что, как мне кажется, простые игроки запущенные на тестирование, могут там только играть и пилить ролики о новинках.

Данное мнение построено человеком, не принимавшем участия ни на одном виде тестирования :) Так что, возможно, мое мнение может быть неверным :)
« Последнее редактирование: 30 Августа, 2021, 14:01:28 by swalto »

JayD

  • Завсегдатай
  • **
  • Сообщений: 916
  • Всем доволен.

  • Варкрафт: +
    • Имя: Imirim
    • Класс: Рыцарь смерти
    • Сервер: Draenor
Тестовые сервера ПТР/Альфа/Бета выходят после тестирования профессиональными тестировщиками
Ну нельзя же быть таким наивным )))

Все чем занимается так называемый "отдел тестирования", это анализирует баг репорты и отзывы от игроков, и сообщает "по адресу" о наиболее критичных.

Если бы отдел тестирования, реально тестировал контент а не валялся на пляже с коктельчиком в руке то очевиднейших багов которые лежат на поверхнасти не было бы, мы бы о них даже не узнали, а так у нас по факту:
"игра не красшится на запуске ? ОТЛИЧНО ! ставим на птр пусть бесплатные рабы тестят, а у нас патитайм ..."

Я сам работаю тестировщиком, хоть и не онлайн игр.
Но все же, поверь инженеры по тестированию выстраивают целую систему, делают автоматизацию тестирования, проводят ручное тестирование. И в таком сложном механизме как WoW, если бы они работали так как ты описываешь, ты бы увидел то, что бывает на пиратках со сломанным ядром, где абсолютно все квесты лагают, интерфейс не работает, и скиллы без преувеличения все поломаны. Тут с каждой дыры сыпались бы баги, это невозможно в таком количестве просчитать заранее, слишком много случайных событий могут стать причиной бага.
Единственное что верно, это что близам конечно стоило бы нанять бОльший штат тестировщиков, как это например сделал гугл и яндекс, где почти каждый человек может стать асессором тестирования даже без особых навыков, и проводить ручное тестирование в бОльшем количестве перед выходом на Тестовые сервера по тестовым кейсам, и люди бы заработали немного, и близзы не многое потеряют и получат более высокий уровень качества, когда человек тестирует механику или квест за условные 5$-7$ он это сделает лучше чем игроки на птр которые зашли поиграть
« Последнее редактирование: 30 Августа, 2021, 14:07:24 by JayD »

Wtinger

  • Новичок
  • *
  • Сообщений: 2

  • Варкрафт: +
    • Имя: Караматсу
    • Класс: Охотник
Игроки не просто плохая замена. Игроки не должны в принципе учавствовать в этом. Потому что возьмём на пример топовых хард рейдеров. Всякий кто брал кромку или пытался её взять понимает что те кто с открытия рейда на птр и те кто начал проходить рейд на ретеиле калосально отличаются. Именно по этому большенство проносят все за  месяц максимум. Потому что до этого они уже натренировались на птр. Гонка прогресса будет куда лучше без рейдом на птр. А все те кто скажут а как же избавится от багов. Я отвечу близард может спокойно сформировать отдел нормальных тестировщиков. В котором достаточно 20 человек.

BadSova

  • Старожил
  • ***
  • Сообщений: 1815

  • Варкрафт: +
    • Класс: Друид
    • Сервер: Ревущий фьорд
  • Рейтинг:0 (+0 | 0)
Тестовые сервера ПТР/Альфа/Бета выходят после тестирования профессиональными тестировщиками
Ну нельзя же быть таким наивным )))

Все чем занимается так называемый "отдел тестирования", это анализирует баг репорты и отзывы от игроков, и сообщает "по адресу" о наиболее критичных.

Если бы отдел тестирования, реально тестировал контент а не валялся на пляже с коктельчиком в руке то очевиднейших багов которые лежат на поверхнасти не было бы, мы бы о них даже не узнали, а так у нас по факту:
"игра не красшится на запуске ? ОТЛИЧНО ! ставим на птр пусть бесплатные рабы тестят, а у нас патитайм ..."
ну тут собственно не совсем бесплатные )

Патрикеевна

  • Завсегдатай
  • **
  • Сообщений: 740

  • Варкрафт: +
    • Имя: Патрикеевна
    • Класс: Разбойник
    • Сервер: Ткач Смерти
  • Рейтинг:1 (+3 | -2)
Автор, ты конечно красиво "пишешь", но что делать, когда те-же самые игроки находят на птр критичные баги, разрабам на это откровенно пофиг? И эта тенденция абсолютно во всех проектах близзов.

"Критичные" баги это какие? Какой-то моб убивает всех с одного удара? Какой-то тринкет убивает всех вокруг вместо нанесения небольшого урона цели? Где-то невозможно войти или выйти из локации или сдать квест?

Это прям вообще не проходит в категорию "критичных багов", обычные минорные бажики, в крайнем случае просто "баги", особенно если они не проявляется каждый раз или их можно обойти. Они как правило задевают только сравнительно небольшую долю игроков, их сравнительно легко поправить, а в приоритете - куда более критичные вещи, например какой-то шард переполняется и все из него резко выпадают на рабочий стол, или бешеное увеличение количества сетевого трафика при некоторых условиях из-за чего лаги происходят на всём сервере (стеке шардов), а у игроков с мобильного интернета неожиданно улетают все гиги за шаги.

А то игроки зачастую как-то совсем не понимают, что такое критичная ошибка, и привыкли считать каждую крошечную ошибочку - Самой Критичной В Мире Проблемой потому что Они Её Нашли или даже Подверглись Её Угнетению.

И да, не все баги исправляются. В вове офигеть как много багов, и ещё больше необнаруженных. Это - продукт жизнедеятельности сразу огромного количества людей, и ошибок - много. То что некоторые неприятные вещи не остались пофикшены - всего лишь следствие низкого приоритета именно этих ошибок и дедлайн. Сколько бы тестировщиков ни было занято тестами - ошибки ещё нужно собственно исправлять, а исправляют их не тестировщики а как правило программисты, которым помимо фиксов надо ещё делать новые вещи и плодить в них новые баги, самые критичные из которых потом надо снова найти и поправить. А программистов на всех не хватает, вот и решают сначала действительно критичные вещи, а не минорные штуки которые без особых проблем можно обойти. Я немножко работаю разработчиком систем связанных с огромной кодовой базой и кучей клиентов (не в Близзард, разумеется), хорошо знаю как это выглядит.
« Последнее редактирование: 30 Августа, 2021, 14:26:39 by Патрикеевна »
Собираю слёзки нытиков.

Кожевенник

  • Завсегдатай
  • **
  • Сообщений: 943
  • Рейтинг:0 (+0 | 0)
Автор, ты конечно красиво "пишешь", но что делать, когда те-же самые игроки находят на птр критичные баги, разрабам на это откровенно пофиг? И эта тенденция абсолютно во всех проектах близзов.

"Критичные" баги это какие? Какой-то моб убивает всех с одного удара? Какой-то тринкет убивает всех вокруг вместо нанесения небольшого урона цели? Где-то невозможно войти или выйти из локации или сдать квест?

Это прям вообще не проходит в категорию "критичных багов", обычные минорные бажики, в крайнем случае просто "баги", особенно если они не проявляется каждый раз или их можно обойти. Они как правило задевают только сравнительно небольшую долю игроков, их сравнительно легко поправить, а в приоритете - КУДА БОЛЕЕ критичные вещи, например какой-то шард переполняется и все из него резко выпадают на рабочий стол, или бешеное увеличение количества сетевого трафика при некоторых условиях из-за чего лаги происходят на всём сервере (стеке шардов), а у игроков с мобильного интернета неожиданно улетают все гиги за шаги.

А то игроки зачастую как-то совсем не понимают, что такое критичная ошибка, и привыкли считать каждую крошечную ошибочку - Самой Критичной В Мире Проблемой потому что Они Его Нашли или даже Подверглись Его Угнетению.
Это по версии фанатов близзов, единственная критична ошибка, если у них игра не запускается и то не факт, могут сказать что это мелочи.

Tiki

  • Завсегдатай
  • **
  • Сообщений: 893

  • Варкрафт: +
    • Сервер: ravencrest
Игроки не просто плохая замена. Игроки не должны в принципе учавствовать в этом. Потому что возьмём на пример топовых хард рейдеров. Всякий кто брал кромку или пытался её взять понимает что те кто с открытия рейда на птр и те кто начал проходить рейд на ретеиле калосально отличаются. Именно по этому большенство проносят все за  месяц максимум. Потому что до этого они уже натренировались на птр. Гонка прогресса будет куда лучше без рейдом на птр. А все те кто скажут а как же избавится от багов. Я отвечу близард может спокойно сформировать отдел нормальных тестировщиков. В котором достаточно 20 человек.
на птр не тестируется мифик. а нормал\героик обычно проносят без проблем и так все хардкор и семи-казуал гильдии.

Wishko

  • Модератор
  • Легенда
  • *
  • Сообщений: 54227
Игроки не просто плохая замена. Игроки не должны в принципе учавствовать в этом. Потому что возьмём на пример топовых хард рейдеров. Всякий кто брал кромку или пытался её взять понимает что те кто с открытия рейда на птр и те кто начал проходить рейд на ретеиле калосально отличаются. Именно по этому большенство проносят все за  месяц максимум. Потому что до этого они уже натренировались на птр. Гонка прогресса будет куда лучше без рейдом на птр. А все те кто скажут а как же избавится от багов. Я отвечу близард может спокойно сформировать отдел нормальных тестировщиков. В котором достаточно 20 человек.
на птр не тестируется мифик. а нормал\героик обычно проносят без проблем и так все хардкор и семи-казуал гильдии.

В эпохальном режиме тестируются все боссы кроме последнего.

 

закрыть