打算用PHP写一个日数据量200W的系统，是否现实可行？

luoluo

每天只有3000~5000人的系统，但产生日数据量在200W左右，在下午有2个小时的时间是高峰期，有时一分钟插入数据量可达20W ,这两小时可占全天数据量的50%。综合来说，插入占80%，查询占20%

优先考虑用PHP的原因是，团队几个人都只熟悉PHP。换JAVA学习成本高。

PHP考虑的框架是Laravel ，ThinkPHP也考虑，但是担心漏洞多。

架构方面，如果仅用用Laravel + Redis消息列队上面业务的数据安全吗？或者打算用各家云服务的 SLB+RabbitMQ 解决高峰期数据插入的情况。查询缓存方面用Redis。

不考虑￥￥的情况下，安全性、稳定性要求高，请问这样的系统，用PHP架构是否现实可行？

或者哪位大JJ能在前期架构上，能给些建议的，麻烦PM我交流一下。有帮助会发红包。

luoluo

Salta 发表于 2023-1-4 18:27
日200W数据，也不是很大，确实可以用PHP实现的。

但是有2个小时并发数据高。

luoluo

Salta 发表于 2023-1-4 18:51
Redis单机写 每秒8W次， 读每秒11万次，你在担心什么？
PHP，就算撑不住你也可以上DNS轮训吧。

不是担心redis撑不住，是担心如果宕机了，redis会丢数据呢

luoluo

vihs 发表于 2023-1-4 19:05
担心是多余的，买阿里云，腾讯云的数据库集群，KV集群。  直接上，性能扛不住直接找云客服官方，比啥都强。 ...

运维不熟悉的我一开始也这么想，想到一天能产生10g左右的数据，这个方案成本有点承受不住

luoluo

whiler 发表于 2023-1-4 19:09
写入 20万/分，基本达到 8 核 32G 内存独服跑 MySQL 8.0 的上限了，和 PHP 无关，上队列吧，削峰填谷，或者 ...

平均是20w一分钟，但是也不排除有1秒5w的数据插入的时候

luoluo

whiler 发表于 2023-1-4 19:09
写入 20万/分，基本达到 8 核 32G 内存独服跑 MySQL 8.0 的上限了，和 PHP 无关，上队列吧，削峰填谷，或者 ...

对呀，就是考虑列队，不知道laravel支持redis列队，不知道这个方案若是在宕机情况下，能不能保证数据安全。

luoluo

vihs 发表于 2023-1-4 21:01
你的想法恰恰相反。
1、这么大数据量，更需要数据安全，公司又不是你的，不需要你考虑成本。你替公司省 ...

我也是这样想的，一开始先用云服务。后面摸索清楚了再自建，那这样省出来的钱。。。

luoluo

zlwzlx 发表于 2023-1-5 17:28
laravel 的性能不是强行 需要做好心理准备，这种数据量 设计时就应该考虑 程序可分布式运行，性能不行就堆 ...

上laravel是考虑到安全性，感觉tp的洞洞太多了，并发和业务不复杂，单用户一条post能产生几百几千条数据。但只有2000 3000个用户而已。

luoluo

MukaichiMion 发表于 2023-1-5 18:51
关键是看数据是怎么来的，是通过HTTP接口来的还是怎么来的
如果是HTTP接口的话，直接用负载均衡就可以搞定
...

是从http来的，就一条post，按需产生几百几千条数据。

luoluo

拉斯 发表于 2023-1-5 17:30
算下来每秒不到一万，数据库没问题，不知道你这个日志是怎么产生的，如果不是访问一次接口产生一条日志用ph ...

mysql数据库每秒2000插入就已经差不多了吧