Как хранить и иметь быстрый доступ к данным?

[webgraph]

Не знаю. Совсем не спец по архитектуре серверов. В любом случае надо будет смотреть, что там с временами запросов будет.

Кстати, а в JS ограничение же только в одном объекте? А если просто несколько объектов создавать?

[voraa]

Да. Это ограничение на 1 объект.
Но такие объемы как правило не хранят все-таки в оперативной памяти. Ее всегда может не хватить. И в аварийном случае - все теряется.

[webgraph]

Да. Это ограничение на 1 объект.
Но такие объемы как правило не хранят все-таки в оперативной памяти. Ее всегда может не хватить. И в аварийном случае - все теряется.

Понятное дело, что все данные должны быть сохранены и в резервной копии в накопитель на случай отключения машины (как минимум в лог файл). И реплицированы на другие машины.

А хранение в памяти — для оперативной работы с данными.

Щас пока создавался этот коммент — возникла мысль на счет "горячих" и "холодных" данных. Типа всех хранить на накопителе, а активных участников дублировать в память. Но тоже хз...

[voraa]

Тут все дело в реальных объемах.
Должны же вы определиться с какими то пределами (не по принципам - чем больше, тем лучше, сколько надо - столько и будет). Любая система все равно имеет какие то ограничения. Где то гигабайты, где то сотни терабайт. А потом уже решать, что подходит под ваши объемы.
Вы даже по участникам не слова не написали. Сколько их, десятки тысяч? Сотни тысяч? Миллионы?
На сколько запросов в секунду вы рассчитываете?
Сколько активных участников, или сразу сотни тысяч в минуту?
Сколько времени уходит на обработку запроса?
Все эти вопросы надо оговаривать вначале, прежде, чем думать о том, как решать задачу.
Опять же вы ни разу не говорили, про активных, пассивных. Складывалось ощущение, что может быть что угодно, а данные в среднем равномерно случайно распределены.

[voraa]

Тем более в эру интернета никогда не знаешь что может произойти — сегодня у тебя 100000 человек, а завтра твой проЭкт вылетает в какой-нибудь тикток и миллионы юзеров просто обрушают твою систему. А через месяцы миллиарды активных юзеров. (ну почему бы и да)

Примерно так начинали и гугл и яндекс и фейсбук. Только они не делали сразу системы рассчитанные на сотни миллионов и миллиарды пользователей, а шли к этому постепенно. Наращивая масштабируя и переделывая системы.

И суперспортивный автомобиль не создается людьми, которые до этого ни разу не делали автомобили. Нужен опыт.

[voraa]

Глядя на ваши доводы можно сделать вывод, что нужно просто опустить руки и ничего не делать!

Делать. Но подходы должны быть другими.
Либо делаете сначала систему на 10000 пользователей с имеющимися знаниями, и техническими возможностями. Смотрите, где узкие места.
И НУЖНА ЛИ ОНА ВООБЩЕ. Когда надо масштабировать до миллионов, нанимаете людей с нужными компетенциями, имеющими опыт создания таких систем. Которые хоть могут прикинуть, сколько серверов нужно, что бы обслуживание занимало милисекунды.

Либо сразу описываете задачу, зарплату, нанимаете специалистов

На форумах об этом глупо спрашивать. Если и есть такие специалисты, то они работают за деньги. На форумах могут только посоветовать один- одно, другой - противоположное. Им же делать это конкретно, тем более не зная и не понимая всей задачи.