#2022高考季#

一文读懂全球化系统中的日期时间处理问题播报文章

全球化的概念和历史(一文读懂全球化系统中的日期时间处理问题播报文章)(1)

Nodejs开发

2022-04-28 00:46辽宁

关注

作者:字节跳动技术团队

日期时间的处理,一直是计算机系统中看似简单,实则经常爆雷的问题。例如,每隔几年,都会爆出的「千年虫问题」的各种变种。

作者 | 吴天际

Too long; didn't read:
  1. 大多数应用中,只需要用“绝对时间 DateTime”一种技术实现即可
  2. 后端应统一用 UTC 时间(包括 DB落盘、接口定义),不应当受用户时区或服务器时区的影响
  3. 前端输入、展示的时间,根据具体业务场景进行时区调整,以及精度调整
  4. 面对不带时间的日期,要明确区分「纪念日」与「精度不高的绝对时间」两种用途,大部分时候你看到的日期是后者,它也应当用“确定时区的 DateTime”来实现
1. 重要性

日期时间的处理,一直是计算机系统中看似简单,实则经常爆雷的问题。

例如,每隔几年,都会爆出的「千年虫问题」的各种变种,通常因为系统在设计之初,没有设计好日期时间的数据存储方式,或者低估了产品设计的生命周期,导致最初选型的数据结构不够用了。

千年虫问题:

如果说,「千年虫」是在时间维度上缺乏前瞻性的设计导致的,那么另一种缺乏前瞻性的问题,是空间维度的,即产品全球化、跨时区带来的问题。

全球化的产品中,如果时间的处理没有遵循统一的标准,会让整个系统充斥着难以理解和维护的时间转换。各种接口的对接文档,都不得不明确说明「这个接口的时间是什么时区的?需要如何处理?」后端服务如果需要跨国部署在多个大洲的机房时,因为服务器的时区不同,需要做大量的改造。

遗憾的是,大多情况下,产品不会一开始就有「全球化」属性。所以在一开始,产研团队都不会重视全球化的设计问题,很容易留下缺乏前瞻性的设计问题。

通常情况下,我们都不鼓励「过度设计」。然而,日期时间的设计,是最不怕「过度」的。这时因为,在技术上实现一个前瞻的时间日期方案,成本并不高;但如果一开始的设计不够,后期的升级和数据迁移工作,却是伤筋动骨的。

2. 如何表达时间和日期?2.1 时间日期的传递:用字符串

在微服务之间,以及在前后端之间,建议用字符串传递日期时间。字符串清晰易读,易于人工调试,带来的开销通常也完全可以接受。(带大量时间数据的接口,建议考虑用 Unix TIMESTAMP。)

如果用字符串,格式就不要自己发明了。有个非常明确的国际标准:ISO 8601(wikipedia: https://en.wikipedia.org/wiki/ISO_8601)

下面举例是符合规范的常用格式:

注意,MySQL 中使用的字符串格式(如 2022-02-09 12:36:42)并不符合规范,不建议使用。

2.2 时间日期的存储:关注 MySQL 中的 DateTime

不同数据库在时间日期相关对象的处理差异很大。这里单说 MySQL,因为坑不小。

MySQL 的 DateTime 数据在存储时并不包含时区信息,因此,在读取时也不会做任何时区的转换。

同时,每个 MySQL 连接会话,都有「会话时区」的概念,但这个概念只影响 MySQL 的 NOW() 等有关当前时间的函数的行为,对数据中已经保存的 DateTime 没有任何影响。

例如:

SET time_zone = ' 00:00' ;UPDATE tab SET datetime_colume = '2020-01-01 00:00:00';SET time_zone = ' 08:00' ; -- 换一个会话时区SELECT datetime_colume FROM tab;-- 返回值仍然是 '2020-01-01 00:00:00',和写入的数据一致,和会话时间无关---------SET time_zone = ' 00:00' ;SELECT NOW(); -- 假设返回 '2022-01-01 00:00:00'UPDATE tab SET datetime_colume = NOW(); -- 存入的是 '2022-01-01 00:00:00'SET time_zone = ' 08:00' ; -- 换一个会话时区SELECT NOW(); -- '2022-01-01 08:00:00' 根据时区变化了SELECT datetime_colume FROM tab; -- '2022-01-01 00:00:00' 已经写入的不会变

2.3 时间日期的计算:语言原生的 DateTime 类型

各语言一般都提供了原生的 DateTime 数据类型,以表达绝对的日期时间,并且都支持上面 ISO 8601 规范的解析和格式化。

处理相对时区时,各种语言通常都是使用操作系统的时区数据库,来转化为绝对时区。时区数据库需要在联网情况下,由操作系统负责定时更新。

2.4 万能的 Unix TimESTamp

Unix Timestamp 在存储、计算、传递环节都可以使用,可谓万能。它唯独不适合表达纪念日日期。

它通过一个数值表示了一个绝对时间与 Unix Epoch 时间(定义为 1970-01-01T00:00:00Z)的差值秒数。Unix Timestamp 本身已经表达了绝对时间,并不需要时区信息。

使用 Unix Timestamp 时,应特别注意选用合适的数值类型,它会影响时间表示的范围。稍不留神,你就可能种下一个新的千年虫。

3. 产品视角的日期时间设计

本着不重不漏的原则,我们可以按如下表格划分产品中的所有日期时间对象:

全球化的概念和历史(一文读懂全球化系统中的日期时间处理问题播报文章)(2)

指明时区,需根据用户所在时区做转换② 表示全球唯一确定时间点④ 表示全球可理解的重复性时间 不存在的场景

下面逐一解释这五种场景。

3.1 表示全球唯一确定时间点(表中的 ②)

信息量包含「年月日-时分秒-时区」。这样,就可以完全确定历史长河中的一个无歧义的时间点。这个时间点是完全客观的,和访问的用户地理位置无关,和服务器的地理位置无关,和什么都无关。

产品表现上,通常会根据查看者所在的时区来重新调整时间的显示。

用途举例:

3.2 表示本地的确定时间点(表中的 ①)

包含「年月日-时分秒」,因为没有时区信息,所以它本身并不能确定一个精确的时间点,而是只在特定的情境下才有意义。

所谓特定的情境,是因为业务场景中蕴含了时区的信息,并且是大家公认的共识。因此,本质上它仍然表示了一个绝对时间。在产品表现上,因为对时区的共识,所以不需要根据查看者的时区来调整时间的展示。

用途举例:

3.3 表示重复性时间(表中的 ③ 和 ④)

和前两类相比,去掉了「日期」这个信息,是为了描述重复性的日程。它可以是指明了时区的,也可以不指明时区,而基于人们对时区的共识去理解。

用途举例:

3.4 纪念日日期(表中的 ⑤)

日期对象几乎只有一个有意义的用途:表示纪念日/节日。它不会包含时区信息。

认为「日期」只能用于「纪念日」,有些绝对了。但我确实查阅了很多资料,也没有看到任何非「纪念日」用途的日期。

例如:

产品体现上,不需要根据时区调整日期的显示。本质上,「纪念日」的逻辑,其实是人脑的不严谨导致的一种习惯,是不严谨、不客观的习惯。不包含时区信息,就是为了满足这种不严谨的习惯。

3.5 区分「纪念日日期」与「精度不高的绝对时间」

上面说过,日期对象不能包含时区。你可能会问,我需要表示“北京时间 2022 年 3 月 22 日”呢?答案是:这不是一个日期,而是一个「精度不高的绝对时间」。

很多情况下,当你想用日期时,其实很可能需要的是个「精度不高的绝对时间」。在飞书人力套件的业务中,经常会遇到这种场景。

例如,一个在美国的同学与一个在日本的同学,都在 2022 年 3 月 22 日这天从公司离职了,由同一个在北京的 HR 办理离职事项。

全球化的概念和历史(一文读懂全球化系统中的日期时间处理问题播报文章)(3)

可见,从我们用户视角理解的「一个事件发生的日期」,其实是我们忽略了时间的精度。在产品全球化之前,我们通过一些默认的简化,忽略了时间精度的问题(例如把时间都填成 00:00:00)。一旦面临产品的全球化,就需要补齐时间、提高精度。

而补齐时间、提高精度的方式,需要根据具体的产品形态具体考虑、明确定义。

例如,在上述离职场景下,就需要按照这个公司对离职的定义来补充,可以是当地时间当天的 23:59:59,也可以是当天下班时间,如 17:00:00。

又比如,对于跨团队的业务,例如一个同学的上级汇报线从一个美国 Leader 转到一个日本 Leader,那么为了避免歧义,通常会约定一个确定的生效时区,如统一按照公司的总部所在地的时间来计算。

4. 日期时间的技术实现4.1 确定时区的 DateTime

适用于上面的 ①②③④ 四种场景。

全球化的概念和历史(一文读懂全球化系统中的日期时间处理问题播报文章)(4)

所有后端暴露的接口中的时间对象,全部以 UTC 时间表示。

同时,所有后端在存储、计算、传输时间时,也统一使用 UTC 时间。由于 DB 存储时间时,时区信息会被丢掉,因此应保证丢掉的时区,是大家明确约定清楚的无歧义的,即 UTC。这样一来,DB 中的所有时间字段也都没有歧义。

接口内部产生的时间,例如 CreatedAt、UpdatedAt时间,都应该转换为 UTC 再落盘。如果直接使用了 MySQL 的NOW()函数,应确保 MySQL Session 的时区设置正确。

在前端或 BFF 负责处理用户输入的时间,以及展示给客户看到的时间。包括两个步骤:

处理“精度不高的时间”问题。 比如:员工异动的生效时间,用户只设置到“天”的精度。那么如果不跨国,可以补全用户会话时区的 00:00:00 为精确生效时间;如果跨国,那就看客户如何定义,以及产品给客户怎样的灵活性:例如,可以以客户公司总部所在地的时区的 00:00:00 为精确生效的时间。

时区转换。 注意,这里不一定是使用用户的会话时区来转换。如前面介绍的飞机火车宾馆的预定时间,就要以预定当地的时区来转换。

上述两点,是一定需要在产品设计中定义清晰的,切忌含糊不清。

不要较真儿抬杠的几点:

4.2 不带时区的 Date

适用于上面的 ⑤,即纪念日场景。

全球化的概念和历史(一文读懂全球化系统中的日期时间处理问题播报文章)(5)

输入或展示时,都不对日期做任何处理。日期对象直接保存在 DB 中。

只有真正的纪念日有必要用这种方式,应当非常谨慎。例如保存一个联系人的生日时。

5. 关于时区的特殊处理5.1 时区的不确定性

使用绝对的时差来表示时区,例如:“东 8 区”表示比世界协调时间(UTC)早 8 个小时的时区。这是个客观的时区。

很多时候,我们关注的是一个城市或地区的时区。例如:Asia/Shanghai 表示中国时间;三字母的缩写 EST 表示美国东部标准时间。注意,这些根据地理位置定义的时区的时差是会发生变化的,变化因素包括:可能受到当地政策的影响,或夏令时影响。

对于历史的时间,地理时区是可以确定客观时区的,因为没有人会重新定义已经过去的时间。

对于未来的时间,地理时区并不能确定客观时区。因此,如果一个未来的事件是按照非绝对时区约定的,那么它很可能变化。并且,我们的产品需要考虑到处理这种变化。

例如,中国员工发起一个“每天早 8 点”的跨国会议,那么在美国,由于夏令时的改变,冬天开会的时间和夏天是不一样的。反之,美国员工发起的一个“每天早 8 点”的跨国会议,由于美国夏令时的变化,对中国员工的时间也是夏天和冬天不一样的。

5.2 夏令时

某些国家在夏天,会把时间调快一小时(提前一小时)。这表现为,同一个地区,在冬天和夏天用不同的绝对时区。

这样做,是因为夏天白天很长,调整后会在白天的更早的时段上班,从而下班后有更长的天亮的时间。注意,并不是把 10 点上班调整到 9 点上班,而是全社会重新定义了 10 点提前了一小时。

一个具体的例子,在美国:

6. 阅读更多及参考文献

Wikipedia: ISO8601 - 用字符串表达各种时间对象的标准https://en.wikipedia.org/wiki/ISO_8601

RFC3339 - 互联网上关于时间和日期实现的通用建议

https://www.rfc-editor.org/rfc/rfc3339

RFC5545 - iCalendar 互联网日历应用的规范

https://datatracker.ietf.org/doc/html/rfc5545

Stackoverflow: Daylight saving time and time zone best practices [closed] - 技术实现建议

https://stackoverflow.com/questions/2532729/daylight-saving-time-and-time-zone-best-practices

Stackoverflow: How to store repeating dates keeping in mind daylight saving time - 技术实现建议

https://medium.com/@vivekmadurai/how-to-deal-with-date-and-time-across-time-zones-39b1bd747f35

Medium: How to Deal with Date and Time across Time Zones - 技术实现建议

https://medium.com/@vivekmadurai/how-to-deal-with-date-and-time-across-time-zones-39b1bd747f35

Microsoft365: Behavior and format options of the Date and Time field - 微软的时间和日期字段的文档

https://docs.microsoft.com/en-us/dynamics365/customerengagement/on-premises/customize/behavior-format-date-time-field?view=op-9-1

Time Change 2021 in the United States - 美国 2021 年夏令时的调整方式

https://www.timeanddate.com/time/change/usa?year=2021

责任编辑:未丽燕来源: 字节跳动技术团队

举报/反馈

发表评论

发表

作者最新文章

全球化的概念和历史(一文读懂全球化系统中的日期时间处理问题播报文章)(6)

用 Babel 和 Nodemon 搭建一个功能齐全的 Node.js 开发环境

2天前7阅读

全球化的概念和历史(一文读懂全球化系统中的日期时间处理问题播报文章)(7)

10000小时定律不会让你成为编程大师,但至少是个好的起点

4天前2阅读

全球化的概念和历史(一文读懂全球化系统中的日期时间处理问题播报文章)(8)

哨兵节点:思想简单,效果很棒的编程算法

10天前

相关推荐

全球化的概念和历史(一文读懂全球化系统中的日期时间处理问题播报文章)(9)

MySQL十问,你能坚持到第几问?

铭刻记忆6

全球化的概念和历史(一文读懂全球化系统中的日期时间处理问题播报文章)(10)

鲁乙己:人工智能将成为带动新一轮全球化浪潮的引擎

人民资讯

全球化的概念和历史(一文读懂全球化系统中的日期时间处理问题播报文章)(11)

掘地三尺搞定 Redis 与 MySQL 数据一致性问题

ITPUB5评论

全球化的概念和历史(一文读懂全球化系统中的日期时间处理问题播报文章)(12)

Windows安装MySQL5.7简易教程,操作简单,新手教学

小小宝读书5评论

全球化的概念和历史(一文读懂全球化系统中的日期时间处理问题播报文章)(13)

实测:云RDS MySQL性能是自建的1.6倍

程序那点事1评论

换一换

相关推荐

全球化的概念和历史(一文读懂全球化系统中的日期时间处理问题播报文章)(14)

MySQL十问,你能坚持到第几问?

铭刻记忆6

全球化的概念和历史(一文读懂全球化系统中的日期时间处理问题播报文章)(15)

鲁乙己:人工智能将成为带动新一轮全球化浪潮的引擎

人民资讯

全球化的概念和历史(一文读懂全球化系统中的日期时间处理问题播报文章)(16)

掘地三尺搞定 Redis 与 MySQL 数据一致性问题

ITPUB5评论

全球化的概念和历史(一文读懂全球化系统中的日期时间处理问题播报文章)(17)

Windows安装MySQL5.7简易教程,操作简单,新手教学

小小宝读书5评论

全球化的概念和历史(一文读懂全球化系统中的日期时间处理问题播报文章)(18)

实测:云RDS MySQL性能是自建的1.6倍

程序那点事1评论

设为首页© Baidu 使用百度前必读意见反馈京ICP证030173号

全球化的概念和历史(一文读懂全球化系统中的日期时间处理问题播报文章)(19)

京公网安备11000002000001号

(20220626日224532)

,