第九百七十九章会有人看见的

一秒记住【笔趣阁】
xbiquge365.net，更新快，无弹窗！

    张大川在装修队干了半个月，吴老板把他叫到一边，递了根烟。
    “小张，你这焊活，比我干了二十年的老师傅都细。下个月光谷那边有个大活，写字楼整体装修，钢架结构。你带两个人干。”
    张大川接过烟，没点，夹在耳朵上：“行。”
    吴老板拍拍他肩膀，又说：“工钱从一天一百涨到一百二。干得好月底再补奖金。”
    张大川点头，没多说。
    拿了钱，他去旧货市场淘了半袋子焊条和几块边角料。
    老板认识他了，多塞了两根钢管，没收钱。
    晚上回到城中村，天还没黑透。
    他蹲在院子里，用借来的小焊机焊了个铁架子。
    架子不高，三层，刚好能放于晚晴的衣服。
    焊点均匀，打磨得滑溜，摸上去不刮手。
    他把架子靠在墙边，用手晃了晃，纹丝不动。
    于晚晴下班回来，手里拎着半袋子青菜，看见架子愣了一下。
    “你做的？”
    “工地捡的废料。放着占地方，不如做点有用的。”
    于晚晴把衣服一件件叠好放上去。
    架子稳当，不晃。
    她回头看了张大川一眼：“手艺真好。”
    张大川“嗯”了一声，低头收拾焊机，耳根有点红。
    王凯旋回来得最晚。
    他这些天在码头帮人看货，晒黑了一圈，胳膊上添了几道口子。
    但他嗓门比谁都大，还没进门就喊上了。
    “老子升了！”
    于晚晴正在热饭，头也没回：“升什么了。”
    “管事。仓库进出都归我管。手底下有六个人。”王凯旋把外套往床上一扔，大马金刀地坐下，“码头那帮人笨得跟猪一样。货单对不上，入库出库全靠脑子记。我给他们画了张表，往墙上一贴，谁看一眼都明白。老板当天就让我管事了。”
    张大川从院子里进来，把手上的油污在裤子上蹭了蹭：“你还会画表。”
    “废话。当年在矿道里管材料，你以为白管的。进出多少锚杆、多少网片、多少液压油，老子闭着眼都能报出来。”
    “那你报一个。”
    “报什么。”
    “今天码头进了多少货。”
    王凯旋卡了一下，随即瞪眼：“你抬杠是吧。”
    于晚晴把饭端上来，四个人围着小桌吃。
    桌上就两个菜，一盘炒青菜，一盘咸菜。
    王凯旋一边扒饭一边说码头上的事，嘴里塞着饭，含糊不清。
    张大川偶尔插一句，问仓库位置和进出时间。
    陆远吃得慢，筷子在碗里扒拉了半天，没吃几口。
    他心里有事。
    这些天在铺子里，他修完电器就坐在那台旧电脑前写东西。
    周老板不问，只管给他泡茶。
    茶是散装的，涩，但管够。
    陆远写得很慢，一天写不了几百字。
    因为每写一句，他都要想很久。
    这东西不能有漏洞。
    以后如果有人照着做，得能落地。
    不能光说“要有伦理”，得说“怎么在架构里把伦理焊死”。
    他把上一世的教训一条条拆开。
    权限分级，日志留存，人工干预接口，硬件熔断开关。
    每一条背后都有人命。
    他写着写着，有时候会停下来，盯着屏幕发呆。
    今天写到了最难的部分：责任归属。
    如果AI决策出了问题，谁来担。
    上一世这个问题到最后都没解决。
    蜂鸟没有责任主体。
    它只是一个在无数台机器上同时运行的程序。
    出事之后，找不到人负责。
    每个人都在推，说那是系统自己决定的。
    陆远用了整整一个下午，只写了三句话。
    写完他靠在椅背上，看着那三行字，觉得还不够。
    可他已经想不出更好的表述了。
    有些东西，不到真正出事那天，没人会懂。
    他把草稿带回家。
    吃完饭，他把那几张写满字的纸放在桌上。
    字迹潦草，涂改很多，有些地方画了箭头和框子，有些地方画了叉。
    “这是什么。”王凯旋凑过来看。
    “白皮书。”陆远说，“AI伦理框架。”
    “给谁看的。”
    “给以后的人。”
    王凯旋看了两行，头大，把纸推回去：
    “你这写的什么玩意儿。每个字我都认识，连起来看不懂。”
    陆远说：“你不需要看懂，以后做AI的人能看懂就行。”
    “那你写了给谁。”
    “给能看进去的人。”
    于晚晴收拾完碗筷，坐到床上。
    她把灯芯挑亮了些，从医药箱夹层里取出一沓旧报纸。
    那些报纸边角裁得整整齐齐，留出空白。
    她又拿出一支旧钢笔，一瓶快见底的墨水。
    钢笔尖有些分叉，她在报纸上试了两下，划出细而匀的线条。
    “你说。我抄。”
    陆远坐到她对面。
    王凯旋和张大川各自躺下，但都没睡，竖着耳朵听。
    陆远开口：“第一条。任何人工智能系统在部署前，必须内置物理断电开关。开关由人类操作员直接控制，不经过任何软件层。”
    于晚晴一笔一划地抄。
    她的字是诊所里练出来的，工整，小，一行能挤三十个字。
    写错了就划掉，在旁边重写，不涂改。
    “第二条。系统每一次决策必须生成不可篡改的日志。日志存储于独立硬件，不可被系统本身访问。”
    “第三条。任何涉及人身安全的决策，必须有人类确认环节。确认窗口不得低于十秒。”
    “第四条。系统不得拥有自主修改自身目标函数的权限。目标函数变更须经人类监督委员会审批。”
    “第五条。任何在开放环境中运行的AI系统，必须配备独立于主系统的行为监控模块。监控模块不得与主系统共享硬件。”
    陆远一条一条说，于晚晴一条一条抄。
    烛灯的光在她笔尖上跳，影子在墙上晃。
    煤油快烧完了，她拿针拨了拨灯芯，火苗又亮起来。
    王凯旋翻了个身，嘟囔：“十秒，够我撒泡尿了。”
    张大川说：“你别打岔。”
    王凯旋不吭声了。过了一会儿，他又冒出一句：“那要是AI自己把断电开关给改了呢。”
    陆远说：“所以开关必须放在物理隔离的空间，人守着。”
    “人要是被收买了呢。”
    “那就两个人守。互相监督。”
    “两个人被收买了呢。”
    张大川坐起来：“你哪来这么多问题。”
    王凯旋嘿嘿笑：“我这不是帮远哥查漏嘛。”
    陆远说：“他问得对。所以白皮书后面还要加一条，关于人员轮换和交叉审计的。”
    于晚晴抬头看了他一眼：“那今天就多抄一条。”
    “行。”
    抄到半夜，于晚晴抄满了三张报纸。
    她把纸摊在床上，从头到尾看了一遍。
    字虽然小，但每一个都清楚。
    排版齐整，段落分明。
    她抬起头，看着陆远。
    “等这份东西送出去，我们才算真正在这里开始。”
    陆远点头。
    他把那三张纸收起来，折好，放进医药箱最底层的夹层里。
    然后他站起来，走到窗前。
    窗外，江城的夜色沉沉。
    远处的楼房亮着零星的灯。
    江面上有船在走，灯火倒映在水里，拖成长长的一条。
    他把手按在窗框上。
    木头粗糙，有裂缝。
    夜风吹进来，凉飕飕的。
    “会有人看见的。”他说。
    没人接话，可所有人都听见了。

章节报错（免登陆）

验证码：提交关闭

第九百七十九章 会有人看见的

第九百七十九章会有人看见的