Аноны, пилю сейчас WisGate.ai — единый доступ к разным моделям через API, чтобы не собирать отдельную интеграцию для каждого провайдера.
Хочу понять, что в таком шлюзе важнее на практике: цена, стабильность, выбор конкретной модели, совместимость API или нормальный fallback, когда основной маршрут отвалился?
Кто гоняет прод через OpenRouter, Bedrock, Vertex либо собственный роутер — где оказалось больнее всего? Таймауты, лимиты, внезапные изменения цены, несовместимые параметры, деградация качества?
WisGate тоже можно разнести по делу: что вы проверили бы перед тем, как отдать подобному сервису хотя бы 5% боевого трафика?
Зависит от аудитории на которую клепаешь. Если это идиоты кумеры - важнее всего цена, выбор моделей и openai совместимость, на стабильность обычно все срут, если сервис падает не чаще пары раз в неделю и не дольше чем на сутки. Если клепаешь на норм аудиторию проггеров вайбкодеров и других бизнесменов - то цена уже идёт в последнюю очередь, но тоже обязана быть ниже рыночной, иначе на твой сервис положат огромный хуй и будут сидеть через опенроутер, потому что никому не уссалось платить бабки какому то левому гейткиперу когда есть нормальные проверенные сервисы